Glossaire de l’IA
Température
La température est un réglage qui dose le hasard dans le choix du token suivant : basse, les réponses sont stables ; haute, elles sont plus variées.
À chaque étape, le modèle donne une probabilité à chaque token possible. À basse température, il prend presque toujours le plus probable ; plus haut, les tokens moins probables ont leur chance.
Température basse pour extraire une date d’un e-mail ou classer un texte, où l’on veut la même réponse à chaque fois. Plus haute pour chercher des idées de noms.
Une température à zéro rend les réponses plus répétables, mais pas toujours identiques, et pas plus justes : une réponse fausse à zéro est fausse à chaque fois.
L’apprendre par la pratique
Ces leçons gratuites l’enseignent avec des commandes à lancer dans un lab et des tâches corrigées. Elles se lisent en entier sans compte.
Leçon du module Appeler des modèles de langage depuis le code
Température et limite de jetons
Leçon du module L'IA pour les développeurs : les bases
Comment fonctionne un modèle de langage
Leçon du module Comment marchent les modèles de langage : les transformeurs de zéro
Échantillonnage, température et top-k