En directEN

Budget de tokens (token budget)

Définition : Le budget de tokens est la quantité de tokens qu'on s'autorise à dépenser pour une tâche, en entrée comme en sortie, sous la contrainte de la fenêtre de contexte et du coût.

Le gérer consiste à arbitrer entre la longueur des instructions, des documents fournis et de la réponse attendue. C'est un enjeu central du context engineering et de la maîtrise des coûts.

Voir aussi

← Tout le glossaire IA · Actualité de l'IA