Une réponse sûre d'elle, mais fausse
L'intelligence artificielle, ou IA, est un programme qui apprend sur beaucoup d'exemples pour faire une tâche, comme écrire un texte ou reconnaître un visage. Elle est très utile, mais elle se trompe de façon que tu dois savoir repérer.
Un assistant écrit une réponse claire et polie, avec des détails précis. Une partie est inventée. Aujourd'hui, tu comprends pourquoi, en construisant un tout petit modèle de langage.
À la fin de cette leçon
Remarque
Je peux dire ce que l'IA fait bien, ce qu'elle fait mal, et pourquoi.
Mots clés
| Mot | Ce que ça veut dire |
|---|---|
| Modèle de langage | un programme qui devine le mot suivant d'un texte |
| Réponse inventée | une réponse bien écrite mais sans rien de vrai derrière |
| Équité | traiter justement tous les groupes de personnes |
| Biais | une erreur qui vient des exemples choisis |
| Décision automatique | un choix pris par un programme sans personne |
Les cellules que les étudiants remplissent restent vides dans cet aperçu.
Comment un modèle de langage écrit-il ?
Un modèle de langage ne comprend pas le texte comme toi. Il a compté, dans des milliards de phrases, quel mot suit quel mot. Pour écrire, il choisit le mot suivant le plus probable, puis recommence.
Les grands modèles regardent des centaines de mots avant de choisir. Le petit modèle du lab ne regarde que le mot d'avant.
Avant de commencer
Remarque
Appuie sur Start the lab dans la barre en haut et attends que JupyterLab soit prêt. Chaque bouton Run tape docker exec jupyter puis un petit programme de Python. Le texte du lab est en anglais : « the » veut dire « le » ou « la ».
Compte quel mot suit « the »
docker exec jupyter python3 steps/bigram.pyAffichée ici, non exécutée. Créez un compte gratuit pour appuyer sur Exécuter et la saisir dans le terminal de votre propre labo.
Exemple : ce que le Run a compté
| Mot après « the » | Fois | Part |
|---|---|---|
| shop | 3 | 0,33 |
| desk | 2 | 0,22 |
| hour, bikes, customer, door | 1 chacun | 0,11 |
Les cellules que les étudiants remplissent restent vides dans cet aperçu.
Pourquoi une IA invente-t-elle des réponses ?
Le modèle choisit un mot plausible, pas un mot vrai. Il ne vérifie rien dans le monde. Si sa suite de mots ressemble à ce qu'il a vu, il la donne avec aplomb.
Regarde ce que fait le petit modèle quand il écrit seul, avec le même texte de départ et un hasard fixé.
Écris quatre phrases mot à mot
docker exec jupyter python3 steps/generate.pyAffichée ici, non exécutée. Créez un compte gratuit pour appuyer sur Exécuter et la saisir dans le terminal de votre propre labo.
Exemple : deux des phrases écrites
| Phrase | Bien formée ? |
|---|---|
| the shop opens at nine . | Oui, et vraie dans le texte |
| the customer hires bikes by the desk is by the shop opens | Elle a l'air d'une phrase, mais ne veut rien dire |
Les cellules que les étudiants remplissent restent vides dans cet aperçu.
Ce que l'IA fait bien et mal
Elle fait bien ce qui ressemble à ses exemples : résumer un texte, trier des milliers de photos, traduire, proposer un brouillon. Elle va très vite et ne se fatigue pas.
Elle fait mal ce qui demande de vérifier le vrai : un fait récent, un calcul long, une source exacte. Elle comprend aussi mal une situation nouvelle, loin de ses exemples.
Exemple : choisir quand s'en servir
| Tâche | L'IA peut aider | À vérifier |
|---|---|---|
| Résumer un cours de trois pages | Oui | Que rien d'important ne manque |
| Donner la date d'une loi | Prudence | Toujours dans une source officielle |
| Corriger l'orthographe | Oui | Les noms propres |
| Décider qui reçoit un prêt | Non, sans personne derrière | Chaque décision, par un humain |
Les cellules que les étudiants remplissent restent vides dans cet aperçu.
Pourquoi l'équité et la loi comptent-elles ?
Un modèle qui trie des candidats, des prêts ou des photos copie les biais de ses exemples. Il peut traiter moins bien un groupe sans que personne l'ait voulu.
La loi sur la protection des données protège ce droit. Quand un programme décide seul à ton sujet, tu peux demander pourquoi et demander qu'une personne revoie la décision.
Une erreur fréquente
Attention
Beaucoup pensent qu'une IA qui répond avec aplomb sait de quoi elle parle. Non : le ton sûr vient de la forme des phrases, pas de la connaissance. Vérifie un fait important dans une source fiable avant de t'en servir.
Pour aller plus loin : teste un vrai assistant
Demande à un assistant d'IA quelque chose dont tu connais déjà la réponse exacte, comme le nom de ton collège ou ta ligne de bus. Compare avec la vraie réponse.
Qu'a-t-il bien fait ? Qu'a-t-il inventé ? Comment sais-tu que tu peux lui faire confiance, ou non ?