Distillation
Définition : La distillation entraîne un petit modèle (« élève ») à imiter un grand modèle (« professeur »), pour obtenir un modèle plus léger et rapide proche de l'original.
C'est une façon de rendre l'IA plus accessible et moins coûteuse à faire tourner.