Glossaire de l’IA
Garde-fous
Les garde-fous sont les contrôles autour d’un appel de modèle qui bloquent les entrées et sorties indésirables, appliqués par le code et pas seulement demandés dans le prompt.
Ils se placent des deux côtés : à l’entrée, longueur, sujet et données personnelles ; à la sortie, format, contenus interdits et droit d’appeler tel outil.
Exemple simple : une liste d’autorisations. L’assistant peut appeler ces trois outils avec ces plages d’arguments, et le code refuse tout le reste avant exécution.
Un garde-fou écrit seulement comme une phrase du prompt système est un vœu. Un vrai garde-fou est du code qui s’exécute quoi que dise le modèle.
L’apprendre par la pratique
Ces leçons gratuites l’enseignent avec des commandes à lancer dans un lab et des tâches corrigées. Elles se lisent en entier sans compte.