Glossaire de l’IA
Hallucination
Une hallucination est une réponse d’un modèle de langage, assurée et bien écrite, qui n’est pas appuyée par ses sources ou qui est tout simplement fausse.
Le modèle écrit un texte probable, pas un texte vérifié. Quand il ne sait pas, la réponse plausible peut être une référence inventée, une fonction qui n’existe pas ou un chiffre faux.
On ne supprime pas les hallucinations, mais on les rend plus rares et plus visibles : fournir les documents, demander des citations, autoriser « je ne sais pas » et mesurer le taux de réponses non appuyées.
Erreur fréquente : se fier à l’assurance du modèle. Une réponse fausse est formulée aussi calmement qu’une juste ; la vérification doit venir d’ailleurs, d’une source, d’un test ou d’une personne.
L’apprendre par la pratique
Ces leçons gratuites l’enseignent avec des commandes à lancer dans un lab et des tâches corrigées. Elles se lisent en entier sans compte.