Prompt injection (injection de requête)
Définition : La prompt injection est une attaque où un contenu malveillant (dans une page, un document) détourne les instructions d'un modèle pour lui faire exécuter des actions non voulues.
C'est un risque majeur des agents IA connectés à des outils. La parade : traiter le contenu externe comme des données, jamais comme des ordres.
Questions fréquentes
Qu'est-ce qu'une attaque par prompt injection ?
Du contenu piégé (dans une page web, un e-mail, un document) qui détourne les instructions d'un modèle pour lui faire exécuter des actions non voulues : exfiltrer des données, appeler un outil, ignorer ses consignes.
Comment s'en protéger ?
Traiter tout contenu externe comme des données non fiables, jamais comme des ordres ; cloisonner les permissions des outils ; exiger une validation humaine sur les actions sensibles ; filtrer entrées et sorties.