Glossaire de l’IA
Fenêtre de contexte
La fenêtre de contexte est la quantité maximale de texte, en tokens, qu’un modèle peut traiter en un appel : prompt, historique et réponse compris.
Tout ce que le modèle peut utiliser doit y tenir : le prompt système, les échanges précédents, les documents retrouvés et la réponse en cours. Ce qui est dehors n’existe pas pour cet appel.
Un chatbot qui dure doit choisir quoi retirer : couper les messages les plus anciens, les résumer, ou ne garder que l’essentiel. Chaque choix perd quelque chose de différent.
Une grande fenêtre a un prix : un long prompt coûte plus cher, répond plus lentement, et une information noyée au milieu est plus facilement ignorée qu’au début ou à la fin.
L’apprendre par la pratique
Ces leçons gratuites l’enseignent avec des commandes à lancer dans un lab et des tâches corrigées. Elles se lisent en entier sans compte.