Glossaire de l’IA
Routage de modèles
Le routage de modèles envoie chaque requête au modèle le plus adapté, souvent un petit modèle peu coûteux pour les cas simples et un plus grand seulement au besoin.
Un routeur peut être une règle simple, comme les questions courtes vers le petit modèle, ou un classifieur qui estime la difficulté d’une requête.
Le routage va avec les solutions de repli : si un modèle expire ou refuse, la requête passe à un autre et la fonction continue de marcher.
Chaque route a besoin de ses propres évaluations. Un modèle moins cher qui échoue sans bruit sur un type de requête fait économiser de l’argent et perdre la confiance.
L’apprendre par la pratique
Ces leçons gratuites l’enseignent avec des commandes à lancer dans un lab et des tâches corrigées. Elles se lisent en entier sans compte.