Lab d’API de LLM : une API de modèle de langage pour s’entraîner, avec un modèle de substitution
Ce lab donne à chaque élève une API de modèle de langage à lui pour s’entraîner : les requêtes qu’envoie un programme, les réponses qui reviennent et ce qui tourne mal. L’élève l’appelle avec curl depuis le terminal et avec de courts scripts Python, et découvre les messages et les rôles, le message système, les jetons et les limites, les réglages d’échantillonnage, la sortie structurée, le streaming, les erreurs et les nouvelles tentatives, et ce que coûte une requête.
Le modèle est un modèle de substitution, et le lab le dit partout : il répond dans le même format que l’API d’un vrai modèle, mais il choisit chaque réponse selon des règles fixes, si bien que la même question reçoit toujours la même réponse. C’est ce qui rend chaque résultat vérifiable. Rien n’est téléchargé, aucun service d’IA n’est appelé et rien ne coûte d’argent. Chaque copie n’a aucun accès à internet ni à aucun autre élève.
Ce que les élèves apprennent
Comment un programme parle à un modèle de langage. Ils envoient une requête en JSON et lisent la réponse : le texte, la raison pour laquelle il s’est arrêté et les jetons utilisés, 15 en entrée et 10 en sortie pour une question. Ils voient un message système changer la réponse et refuser une question, et découvrent qu’un modèle ne se souvient de rien si les messages précédents ne sont pas renvoyés. Ils comptent les jetons, coupent une réponse avec max_tokens et calculent le coût à des prix inventés. Ils demandent une sortie structurée par un appel d’outil imposé et la vérifient, regardent une réponse arriver en 14 événements, et relancent un modèle occupé avec une pause qui grandit, sans jamais relancer une requête fausse. Il convient à un cours de développement logiciel ou d’IA appliquée ; vérifiez la formulation exacte dans le programme de votre propre organisme, aucun n’est cité ici.
Le lancer dans votre navigateur
Le lab démarre deux services. model est le modèle de substitution, qui répond à http://model:4000/v1 à l’intérieur du lab. tools est un Python avec llm.py, un petit client écrit avec la seule bibliothèque standard de Python, et steps/, de courts scripts qui montrent chacun une idée. Le terminal à côté du lab a curl et pas de Python : il appelle donc le modèle directement et atteint les scripts avec docker exec tools.
- Ouvrir la page Conteneur. Ouvrez « Créer » dans la barre et choisissez « Lancer un conteneur ». Tout le monde peut ouvrir la page, et le lab Git et le lab SQL se lancent sans compte. Tous les autres labs demandent un compte gratuit : créez-en un, connectez-vous, puis appuyez sur « Démarrer ».
- Trouver le lab. La carte « Laboratoires d’exemple » liste tous les exemples. Trouvez Atelier LLM : une API de modèle pour s’exercer.
- Appuyer sur Démarrer. « Démarrer » le lance tel quel, en un clic. « Modifier le fichier d’abord » ouvre le fichier compose pour que vous puissiez le changer avant de démarrer.
- L’ouvrir. Sur la page du lab, appuyez sur « Ouvrir le terminal » et tapez curl -s http://model:4000/v1/models pour demander son nom au modèle, qui est lab. Tapez ensuite docker exec tools python3 steps/roles.py pour voir un message système changer la réponse.
Ce qu’il faut demander aux élèves de rendre
Un court script Python à eux, lancé avec docker exec tools python3, qui appelle le modèle et fait une chose montrée dans la leçon : poursuivre une conversation, vérifier une réponse structurée par rapport à son schéma, ou relancer un modèle occupé et finir par abandonner. Avec lui, ce qu’il a affiché et une phrase sur ce qu’un vrai modèle ferait autrement. Rien n’est corrigé automatiquement : la phrase montre si c’est compris.
Une leçon de base sur ce lab
LLM API Basics (Les bases de l’API d’un modèle de langage) est une petite leçon qui se fait dans ce lab. L’élève y envoie une requête avec curl, pose un message système, compte les jetons et le coût, essaie les réglages d’échantillonnage, demande une sortie structurée, reçoit une réponse en streaming et relance un modèle occupé.
Les comptes personnels gratuits la trouvent dans le module Basics, sur l’« Accueil », et chaque établissement peut la copier depuis le dossier Basics de la Bibliothèque. Elle est volontairement courte : elle montre à un enseignant ce qu’est une leçon travaillée dans un lab, et le lab fait le reste. Copiez-la dans un module à vous pour la modifier.
Le code sur GitHub
Le fichier compose n’a pas de Dockerfile : il lance deux fois une seule image publique telle quelle, Python 3.12 sur Alpine, figée sur une étiquette exacte, chaque fois sous un compte sans privilèges avec 64 Mo de mémoire. L’image est sous licence PSF et nous ne la distribuons pas. Au démarrage, le fichier écrit le modèle de substitution et les scripts à partir d’un texte fixe, avec la seule bibliothèque standard de Python : rien n’est téléchargé. Les règles du modèle de substitution sont en haut de son propre fichier, et un enseignant peut y ajouter ses propres réponses. Rien n’est gardé quand le lab s’arrête : l’élève copie donc d’abord son script.
Le donner comme travail
Indiquez dans la tâche ce qu’il faut rendre.
- Créer le lab. Dans votre module, ajoutez une tâche et choisissez la carte « Lab de conteneurs », puis « Dans un dépôt GitHub ». Indiquez https://github.com/mitsurutech/lab-llm-workbench avec la branche main. Le fichier compose par défaut est compose.yaml. Faites d’abord un fork du dépôt si vous voulez le modifier, par exemple pour donner au modèle de substitution des réponses à vous.
- Publier et l’essayer. « Publier » fige le commit qui vous a été montré : un changement ultérieur dans le dépôt ne modifie donc pas un lab que vous avez déjà proposé. Démarrez d’abord votre propre copie.
- Le distribuer. Attribuez-le comme n’importe quelle tâche, avec une échéance si vous le souhaitez, et indiquez dans la tâche ce qu’il faut faire et ce qu’il faut rendre.
- Noter ce qui est rendu. Ouvrez la copie d’un élève et le travail rendu, notez-le et renvoyez-le avec un motif s’il demande un complément.
Essayer ce lab, et ce qu’il coûte
Un compte personnel gratuit permet de suivre les leçons de base de ce lab, avec chaque mois assez de crédit gratuit pour suivre la plupart des leçons, sans carte. Pour une classe, un établissement a ses 365 premiers jours gratuits pour 50 élèves au plus, puis paie par élève et par an, tous les labs compris et les enseignants gratuits.
Questions fréquentes
- Y a-t-il un vrai modèle d’IA dans ce lab ?
- Non. Le modèle est un modèle de substitution écrit pour le lab, un court programme Python qui choisit chaque réponse selon des règles fixes. Il répond dans le même format que l’API d’un vrai modèle : ce que les élèves apprennent sur les requêtes, les jetons, le streaming et les erreurs reste donc valable, mais ses mots ne sont pas générés. Il donne toujours la même réponse à la même question, ce qui permet à la leçon de dire ce que verra l’élève.
- Pourquoi la température ne change-t-elle rien ?
- Un vrai modèle choisit chaque jeton suivant parmi les plus probables, et temperature et seed changent sa façon de choisir. Le modèle de substitution choisit toujours la même réponse : il accepte ces réglages et les ignore. La leçon le dit, et demande aux élèves ce que ferait un vrai modèle.
- Est-ce que cela coûte quelque chose ou consomme des crédits d’IA ?
- Aucune IA n’est utilisée, donc rien n’est facturé pour elle. Le lab tourne comme n’importe quel autre lab de conteneurs. Les prix de l’étape sur le coût sont inventés, pour s’exercer au calcul.
- Pourquoi le terminal utilise-t-il docker exec tools ?
- Le terminal du lab porte quelques clients, dont curl, et pas de Python. docker exec tools lance une commande dans le conteneur Python du lab, où se trouvent le client et les scripts.
- Mes élèves peuvent-ils y envoyer quelque chose de personnel ?
- Cela ne va nulle part : le modèle de substitution tourne dans la copie de l’élève, qui n’a aucun accès à internet. C’est tout de même une bonne habitude à enseigner : un vrai service de modèle reçoit tout ce qui est tapé, donc rien de personnel ni de secret ne doit figurer dans une requête.