Une fonction qui n'existe pas
Karim travaille au service informatique d'une agence immobilière à Nantes. Il demande à un assistant de code une fonction pour mettre en forme les noms des clients. La réponse arrive en trois secondes et semble parfaite.
Il lance le programme : erreur. L'assistant a utilisé une méthode qui n'a jamais existé. Comment un outil aussi sûr de lui peut-il se tromper ainsi ?
À la fin de cette leçon
Remarque
Je peux expliquer ce qu'un assistant de code sait et ce qu'il ne sait pas.
Mots clés
| Mot | Ce que ça veut dire |
|---|---|
| Assistant de code | un outil qui propose du code à partir d'une demande |
| Modèle de langage | un programme qui prédit la suite d'un texte |
| Prédiction | la suite jugée la plus probable |
| Contexte | ce que le modèle voit au moment de répondre |
| Date de coupure | la date des textes les plus récents appris |
| Hallucination | une réponse inventée présentée comme vraie |
Les cellules que les étudiants remplissent restent vides dans cet aperçu.
Un modèle prédit la suite d'un texte
Un assistant de code repose sur un modèle de langage. Ce modèle a lu une énorme quantité de textes et de code. Devant votre demande, il choisit le mot suivant le plus probable, puis le suivant, et ainsi de suite.
Il ne cherche pas la bonne réponse dans un livre. Il produit une suite qui ressemble à ce qu'il a déjà vu. Souvent, c'est juste. Parfois, cela sonne juste sans l'être.
Exemple : compléter une phrase de bureau
| Début de phrase | Suite possible | Probabilité estimée |
|---|---|---|
| Le client a réglé sa | facture | 70 % |
| Le client a réglé sa | commande | 20 % |
| Le client a réglé sa | voiture | 1 % |
| Le modèle garde | la suite la plus probable | pas forcément la vraie |
Les cellules que les étudiants remplissent restent vides dans cet aperçu.
Ce que l'assistant ne sait pas
L'assistant ne voit que son contexte : votre demande et les fichiers que vous lui montrez. Il ne connaît pas votre base de données, ni les règles de votre entreprise.
Il ignore aussi ce qui est sorti après sa date de coupure, comme une nouvelle version d'une bibliothèque. Quand il lui manque une information, il ne dit pas toujours « je ne sais pas ». Il peut inventer un nom de fonction crédible : c'est une hallucination.
À vous : une méthode inventée
# Un assistant a proposé ce code pour mettre en forme
# le nom d'un client avant d'imprimer une facture.
nom_client = "jeanne martin"
# La méthode capitalize_words n'existe pas en Python :
# l'assistant l'a inventée. Lancez le code pour le voir.
print(nom_client.capitalize_words())
# Remplacez capitalize_words par title, qui existe,
# puis relancez. Vous devez lire : Jeanne Martin
Une erreur fréquente
Attention
Beaucoup pensent que l'assistant connaît leur projet, comme un collègue. En réalité, il ne voit que ce que vous lui donnez dans la demande. S'il parle d'un fichier ou d'une table que vous ne lui avez pas montrés, il devine.