Exécuter du code dont on n’est pas sûr
Un agent d’IA écrit un script et le lance aussitôt. Un site laisse ses clients envoyer des programmes. Personne ne peut tout relire avant. Alors on exécute ce code dans un bac à sable : des clôtures que le noyau Linux pose autour de lui.
À la fin de cette leçon
Remarque
Je peux poser une clôture du noyau autour d’un programme et voir ce qu’elle arrête.
Mots-clés
- Bac à sable : des clôtures qui limitent ce qu’un programme peut atteindre.
- Namespace : une vue privée d’une seule chose, comme le réseau.
- cgroup : un groupe de processus avec des limites de mémoire et d’autres.
- seccomp : un filtre sur les demandes qu’un programme fait au noyau.
- Appel système : une demande d’un programme au noyau.
Pour commencer : ce que tu sais déjà
Remarque
Réponds dans ta tête. 1. Qui peut lire tes fichiers quand tu lances un programme ? 2. Qu’est-ce que root ? 3. Pourquoi du code écrit par une IA peut-il être risqué ? Tu as besoin de la première réponse dans un instant.
Avant de commencer
Remarque
Appuie sur Démarrer le lab dans la barre en haut de cette leçon. Ce lab est une machine Ubuntu entière, rien que pour toi, et le premier démarrage installe ses outils : il faut donc quelques minutes. Chaque bouton Exécuter tape sa commande dans le terminal de la machine, l’une après l’autre, dans la même session. Si l’un d’eux dit que la machine démarre encore, attends quelques secondes et appuie de nouveau. Pour les regarder, ou pour taper les tiennes, appuie sur Ouvrir le terminal dans la barre.
Le code non fiable tourne avec tes droits
Tes fichiers sont dans le dossier lab. La première commande y entre. agent.py joue le rôle du code non fiable. Quand on lui demande de lire la clé rangée dans secrets, il l’affiche : demo-key-4417-not-real. Quand on lui demande d’appeler l’extérieur, il répond Connection refused : rien n’écoute sur ce port, mais le réseau était bien là.
cd ~/labAffichée ici, non exécutée. Appuyez sur Démarrer le labo pour la saisir dans le terminal de votre propre labo.
python3 agent/agent.py secretAffichée ici, non exécutée. Appuyez sur Démarrer le labo pour la saisir dans le terminal de votre propre labo.
python3 agent/agent.py callAffichée ici, non exécutée. Appuyez sur Démarrer le labo pour la saisir dans le terminal de votre propre labo.
Vérifie
Astuce
Pourquoi l’agent a-t-il pu lire la clé ? Réponse : il tourne avec ton compte, avec tous tes pouvoirs, et tu peux lire tes propres fichiers.
Un namespace retire le réseau
unshare --net lance une commande dans un nouveau namespace réseau, sans aucun réseau dedans. Le même appel répond maintenant Network is unreachable : il n’y a plus rien à joindre.
sudo unshare --net python3 agent/agent.py callAffichée ici, non exécutée. Appuyez sur Démarrer le labo pour la saisir dans le terminal de votre propre labo.
Un cgroup limite la mémoire
sbx limit est l’aide du lab. Elle crée un cgroup limité à 64 Mo de mémoire et y lance l’agent. L’agent demande 200 Mo. Il affiche sa première ligne, puis le noyau le tue : sbx annonce exit status 137 et oom_kill 1.
sudo sbx limit --memory 64M -- python3 agent/agent.py memory 200Affichée ici, non exécutée. Appuyez sur Démarrer le labo pour la saisir dans le terminal de votre propre labo.
Une erreur fréquente
Attention
Beaucoup pensent qu’un programme qui dépasse sa limite de mémoire reçoit une erreur qu’il peut gérer. Sous Linux, il est en général tué par le noyau, sans prévenir : il n’affiche donc jamais sa dernière ligne.
Un filtre seccomp refuse des appels
sbx seccomp charge une liste d’appels système autorisés. Tout appel absent de la liste est refusé. La liste ne contient pas l’appel qui ouvre une connexion réseau, donc l’appel de l’agent répond maintenant Operation not permitted.
sbx seccomp profiles/python.allow -- python3 agent/agent.py callAffichée ici, non exécutée. Appuyez sur Démarrer le labo pour la saisir dans le terminal de votre propre labo.
bubblewrap cache un dossier
bwrap construit un bac à sable avec des montages. Ici, il montre tout le disque en lecture seule et pose un dossier vide par-dessus secrets. L’agent répond No such file or directory.
sudo bwrap --ro-bind / / --dev /dev --proc /proc --tmpfs /home/student/lab/secrets python3 agent/agent.py secretAffichée ici, non exécutée. Appuyez sur Démarrer le labo pour la saisir dans le terminal de votre propre labo.
Vérification finale
Astuce
Réponds sans revenir en arrière. 1. Que retire un namespace réseau ? 2. Qu’arrive-t-il à un programme qui dépasse la limite de mémoire de son cgroup ? 3. Que fait une liste seccomp d’un appel qu’elle ne nomme pas ? 4. Comment bubblewrap a-t-il caché la clé ? Réponses : tout réseau ; le noyau le tue ; elle le refuse ; un dossier vide posé dessus. Ouvre maintenant le README.md avec cat ~/README.md : tu écris un seul script avec toutes les clôtures à la fois.
Pour les enseignants
Astuce
Cette leçon se déroule dans un lab VM : chaque élève a sa propre machine Ubuntu, et un bouton Exécuter tape dans son terminal et montre ce qui s’est affiché. Points clés : 1. Le code non fiable tourne avec tous les pouvoirs du compte qui le lance. 2. Un namespace cache une seule chose, comme le réseau. 3. Un cgroup limite la mémoire, et le noyau tue un programme qui la dépasse. 4. Une liste seccomp refuse tout appel qu’elle ne nomme pas. Erreur fréquente : croire qu’un programme qui dépasse sa limite de mémoire reçoit une erreur. Matériel : le lab et un navigateur. agent.py est un remplaçant inoffensif et chaque clé est une valeur de démonstration. Conseil : après chaque clôture, demandez quelles autres ruses de l’agent elle n’arrêterait pas. Le lab lui-même a une vérification qui note run-agent.sh avec des valeurs cachées.