IA constitutionnelle (Constitutional AI)
Définition : L'IA constitutionnelle est la méthode d'Anthropic pour aligner Claude : le modèle suit un ensemble de principes (une « constitution ») guidant des réponses utiles, honnêtes et inoffensives.
Plutôt que de s'appuyer uniquement sur des retours humains, le modèle s'auto-critique selon ces principes pendant l'entraînement.