Glossaire de l’IA
Modèle local
Un modèle local est un modèle de langage qui tourne sur du matériel que vous contrôlez, portable, serveur ou machine cloud à vous, plutôt que derrière l’API d’un autre.
On télécharge des poids ouverts, souvent quantifiés, et on les sert avec un serveur d’inférence qui offre une API proche de celle d’un service hébergé : le code change peu.
On y gagne confidentialité, maîtrise des versions et aucun coût par token. On y perd en matériel, en travail d’exploitation, et souvent en taille de modèle.
Faites le calcul avant de choisir : une machine qui reste inactive la plupart du temps peut coûter plus cher qu’un paiement à l’appel.
L’apprendre par la pratique
Ces leçons gratuites l’enseignent avec des commandes à lancer dans un lab et des tâches corrigées. Elles se lisent en entier sans compte.