Glossaire de l’IA
Mise en cache
La mise en cache conserve le résultat d’un appel de modèle déjà fait, pour répondre de nouveau à la même requête sans la payer deux fois.
Le cache le plus simple prend pour clé le prompt exact et les réglages, et garde la réponse. Une question répétée ne coûte alors rien et revient tout de suite.
Beaucoup de fournisseurs mettent aussi en cache un long début de prompt qui ne change pas, prompt système ou document, ce qui rend les appels suivants moins chers et plus rapides.
Un cache doit savoir oublier : mettez la version du modèle et du prompt dans la clé, pour qu’un changement ne serve pas les réponses d’hier.
L’apprendre par la pratique
Ces leçons gratuites l’enseignent avec des commandes à lancer dans un lab et des tâches corrigées. Elles se lisent en entier sans compte.