LoRA (adaptation de faible rang)
Définition : LoRA (Low-Rank Adaptation) est une méthode de fine-tuning efficace qui n'entraîne qu'un petit nombre de paramètres ajoutés, en gelant le modèle d'origine.
Elle réduit fortement le coût mémoire et permet de spécialiser un grand modèle sans tout ré-entraîner. Les adaptateurs obtenus sont légers et facilement échangeables.