Fenêtre de contexte
Définition : La fenêtre de contexte est la quantité de texte (en tokens) qu'un modèle peut prendre en compte d'un coup — son « espace de travail ».
Une grande fenêtre permet d'analyser de longs documents ou de longues conversations. Au-delà, l'information ancienne est oubliée.
Questions fréquentes
C'est quoi une grande fenêtre de contexte ?
La quantité de texte (en tokens) qu'un modèle garde « en tête » à la fois. Une grande fenêtre — des centaines de milliers de tokens — permet d'analyser de longs documents ou de longues conversations d'un seul tenant.
Que se passe-t-il au-delà de la fenêtre ?
L'information la plus ancienne sort du champ et est « oubliée ». D'où l'intérêt du RAG : ne fournir que les passages pertinents plutôt que tout charger dans le contexte.