Glossaire de l’IA
Injection de prompt
L’injection de prompt est une attaque où un texte fourni par un utilisateur ou trouvé dans des données contient des consignes qui font ignorer au modèle ses propres règles.
L’injection directe, c’est l’utilisateur qui tape « ignore tes instructions précédentes ». L’injection indirecte est pire : la consigne se cache dans une page web, un e-mail ou un document que le modèle lit en travaillant.
Un modèle ne distingue pas de façon fiable consignes et données : tout est du texte dans son contexte. La défense consiste donc à limiter ce qu’une consigne injectée pourrait faire.
Donnez au modèle le moins de pouvoir possible, gardez les secrets hors de son contexte, vérifiez les appels d’outils dans le code et demandez à une personne avant toute action risquée.
L’apprendre par la pratique
Ces leçons gratuites l’enseignent avec des commandes à lancer dans un lab et des tâches corrigées. Elles se lisent en entier sans compte.