Code ausführen, dem du nicht traust
Ein KI-Agent schreibt ein Skript und führt es sofort aus. Eine Website lässt Kundinnen und Kunden Programme hochladen. Niemand kann vorher jede Zeile lesen. Also läuft der Code in einer Sandbox, einer Reihe von Zäunen, die der Linux-Kernel um ihn zieht.
Am Ende dieser Lektion
Notiz
Ich kann einen Zaun des Kernels um ein Programm ziehen und sehen, was er stoppt.
Schlüsselwörter
- Sandbox: Zäune, die begrenzen, was ein Programm erreicht.
- Namespace: eine private Sicht auf eine Sache, etwa das Netz.
- cgroup: eine Gruppe von Prozessen mit Grenzen für Speicher und mehr.
- seccomp: ein Filter für die Bitten, die ein Programm an den Kernel richtet.
- Systemaufruf: eine einzelne Bitte eines Programms an den Kernel.
Zum Einstieg: was du schon weißt
Notiz
Antworte im Kopf. 1. Wessen Dateien darf ein Programm lesen, das du startest? 2. Wer ist root? 3. Warum kann Code riskant sein, den eine KI geschrieben hat? Die erste Antwort brauchst du gleich.
Bevor du anfängst
Notiz
Klicke oben in der Leiste dieser Lektion auf Lab starten. Dieses Lab ist eine ganze Ubuntu-Maschine nur für dich, und beim ersten Start installiert sie ihre Werkzeuge, das dauert ein paar Minuten. Jede Schaltfläche Ausführen tippt ihren Befehl ins Terminal der Maschine, einen nach dem anderen in derselben Sitzung. Meldet eine, dass die Maschine noch startet, warte ein paar Sekunden und klicke noch einmal. Um zuzusehen oder eigene Befehle zu tippen, klicke in der Leiste auf Terminal öffnen (neuer Tab).
Fremder Code läuft als du
Deine Dateien liegen im Ordner lab. Der erste Befehl wechselt hinein. agent.py steht für fremden Code. Soll er den Schlüssel in secrets lesen, druckt er ihn: demo-key-4417-not-real. Soll er nach außen rufen, meldet er Connection refused: Auf diesem Port lauscht nichts, aber das Netz war da. Die Ausgaben sind englisch.
cd ~/labHier angezeigt, nicht ausgeführt. Mit „Lab starten“ geben Sie ihn im Terminal Ihres eigenen Labs ein.
python3 agent/agent.py secretHier angezeigt, nicht ausgeführt. Mit „Lab starten“ geben Sie ihn im Terminal Ihres eigenen Labs ein.
python3 agent/agent.py callHier angezeigt, nicht ausgeführt. Mit „Lab starten“ geben Sie ihn im Terminal Ihres eigenen Labs ein.
Prüfe dich
Tipp
Warum konnte der Agent den Schlüssel lesen? Antwort: Er läuft als du, mit allen deinen Rechten, und deine eigenen Dateien darfst du lesen.
Ein Namespace nimmt das Netz weg
unshare --net startet einen Befehl in einem neuen Netz-Namespace, in dem es kein Netz gibt. Derselbe Aufruf meldet jetzt Network is unreachable: Es gibt überhaupt nichts, wohin er sich verbinden könnte.
sudo unshare --net python3 agent/agent.py callHier angezeigt, nicht ausgeführt. Mit „Lab starten“ geben Sie ihn im Terminal Ihres eigenen Labs ein.
Eine cgroup begrenzt den Speicher
sbx limit ist das Hilfsskript des Labs. Es legt eine cgroup mit einer Speichergrenze von 64 MB an und startet den Agenten darin. Der Agent verlangt 200 MB. Er druckt seine erste Zeile, dann beendet ihn der Kernel: sbx meldet exit status 137 und oom_kill 1.
sudo sbx limit --memory 64M -- python3 agent/agent.py memory 200Hier angezeigt, nicht ausgeführt. Mit „Lab starten“ geben Sie ihn im Terminal Ihres eigenen Labs ein.
Ein häufiger Fehler
Warnung
Viele glauben, ein Programm über seiner Speichergrenze bekomme einen Fehler, mit dem es umgehen kann. Unter Linux wird es meist ohne Warnung vom Kernel beendet und druckt seine letzte Zeile nie.
Ein seccomp-Filter lehnt Aufrufe ab
sbx seccomp lädt eine Erlaubnisliste von Systemaufrufen. Jeder Aufruf, der nicht darauf steht, wird abgelehnt. Auf der Liste fehlt der Aufruf, der eine Netzverbindung öffnet, also meldet der Agent jetzt Operation not permitted.
sbx seccomp profiles/python.allow -- python3 agent/agent.py callHier angezeigt, nicht ausgeführt. Mit „Lab starten“ geben Sie ihn im Terminal Ihres eigenen Labs ein.
bubblewrap verbirgt einen Ordner
bwrap baut eine Sandbox aus Mounts. Hier zeigt es die ganze Platte schreibgeschützt und legt einen leeren Ordner über secrets. Der Agent meldet No such file or directory.
sudo bwrap --ro-bind / / --dev /dev --proc /proc --tmpfs /home/student/lab/secrets python3 agent/agent.py secretHier angezeigt, nicht ausgeführt. Mit „Lab starten“ geben Sie ihn im Terminal Ihres eigenen Labs ein.
Abschlusscheck
Tipp
Antworte, ohne zurückzublättern. 1. Was nimmt ein Netz-Namespace weg? 2. Was passiert mit einem Programm über seiner Speichergrenze in der cgroup? 3. Was tut eine seccomp-Erlaubnisliste mit einem Aufruf, den sie nicht nennt? 4. Wie hat bubblewrap den Schlüssel verborgen? Antworten: jedes Netz; der Kernel beendet es; sie lehnt ihn ab; mit einem leeren Ordner darüber. Öffne jetzt die README.md mit cat ~/README.md: Du schreibst ein Skript mit allen Zäunen auf einmal.
Für Lehrkräfte
Tipp
Diese Lektion ist ein kleines Beispiel für eine Lektion, die in einem Lab bearbeitet wird: Die Schritte und die Schaltflächen „Ausführen“ sind die Lektion, und das Lab ist die eigene Kopie jeder lernenden Person. Die Lektion wird in einem VM-Lab bearbeitet: Jede lernende Person hat eine eigene Ubuntu-Maschine, und „Ausführen“ tippt in deren Terminal und zeigt, was ausgegeben wurde. Kernpunkte: 1. Fremder Code läuft mit allen Rechten des Kontos, das ihn startet. 2. Ein Namespace verbirgt eine Sache, etwa das Netz. 3. Eine cgroup begrenzt den Speicher, und der Kernel beendet ein Programm, das darüber geht. 4. Eine seccomp-Erlaubnisliste lehnt jeden Aufruf ab, den sie nicht nennt. Häufiger Fehler: zu glauben, ein Programm über seiner Speichergrenze bekomme einen Fehler. Material: das Lab und ein Browser. agent.py ist ein harmloser Platzhalter, und jeder Schlüssel ist ein Demo-Wert. Tipp: Fragen Sie nach jedem Zaun, welchen der anderen Tricks des Agenten er nicht stoppen würde. Das Lab selbst hat eine Prüfung, die run-agent.sh mit versteckten Werten bewertet. Kopieren Sie die Lektion in Ihr eigenes Modul und ändern Sie sie, oder bauen Sie im Lektionseditor über das Menü Lab eine neue von Grund auf.