Ejecuta código del que no te fías
Un agente de IA escribe un script y lo ejecuta al momento. Una web deja que sus clientes suban programas. Nadie puede leer antes cada línea. Por eso el código se ejecuta dentro de un entorno aislado (en inglés, sandbox), un conjunto de vallas que el kernel de Linux pone a su alrededor.
Al terminar esta lección
Nota
Puedo poner una valla del kernel alrededor de un programa y ver lo que frena.
Palabras clave
- Entorno aislado: vallas que limitan lo que alcanza un programa.
- Namespace: una vista privada de una sola cosa, como la red.
- cgroup: un grupo de procesos con límites de memoria y más.
- seccomp: un filtro sobre las peticiones que un programa hace al kernel.
- Llamada al sistema: una petición de un programa al kernel.
Para empezar: lo que ya sabes
Nota
Responde mentalmente. 1. ¿Quién puede leer tus archivos cuando ejecutas un programa? 2. ¿Qué es root? 3. ¿Por qué puede ser arriesgado un código escrito por una IA? Necesitarás la primera respuesta enseguida.
Antes de empezar
Nota
Pulsa Iniciar el laboratorio en la barra de arriba de esta lección. Este laboratorio es una máquina Ubuntu entera solo para ti, y el primer arranque instala sus herramientas, así que tarda unos minutos. Cada botón Ejecutar escribe su comando en el terminal de la máquina, uno tras otro en la misma sesión. Si uno dice que la máquina todavía está arrancando, espera unos segundos y púlsalo de nuevo. Para verlos, o para escribir los tuyos, pulsa Abrir el terminal en la barra.
El código no confiable se ejecuta como tú
Tus archivos están en la carpeta lab. El primer comando entra en ella. agent.py hace de código no confiable. Si le pides leer la clave de secrets, la imprime: demo-key-4417-not-real. Si le pides llamar hacia fuera, dice Connection refused: nadie escucha en ese puerto, pero la red estaba ahí. Los programas del laboratorio imprimen en inglés.
cd ~/labSe muestra aquí y no se ejecuta. Pulsa Iniciar laboratorio para escribirlo en el terminal de tu propio laboratorio.
python3 agent/agent.py secretSe muestra aquí y no se ejecuta. Pulsa Iniciar laboratorio para escribirlo en el terminal de tu propio laboratorio.
python3 agent/agent.py callSe muestra aquí y no se ejecuta. Pulsa Iniciar laboratorio para escribirlo en el terminal de tu propio laboratorio.
Comprueba
Consejo
¿Por qué pudo el agente leer la clave? Respuesta: se ejecuta como tú, con todos tus poderes, y tú puedes leer tus propios archivos.
Un namespace quita la red
unshare --net ejecuta un comando en un namespace de red nuevo, sin ninguna red dentro. La misma llamada dice ahora Network is unreachable: no hay nada a lo que conectarse.
sudo unshare --net python3 agent/agent.py callSe muestra aquí y no se ejecuta. Pulsa Iniciar laboratorio para escribirlo en el terminal de tu propio laboratorio.
Un cgroup limita la memoria
sbx limit es la ayuda del laboratorio. Crea un cgroup con un límite de memoria de 64 MB y ejecuta dentro el agente. El agente pide 200 MB. Imprime su primera línea y luego el kernel lo mata: sbx dice exit status 137 y oom_kill 1.
sudo sbx limit --memory 64M -- python3 agent/agent.py memory 200Se muestra aquí y no se ejecuta. Pulsa Iniciar laboratorio para escribirlo en el terminal de tu propio laboratorio.
Un error frecuente
Advertencia
Mucha gente cree que un programa que pasa su límite de memoria recibe un error que puede tratar. En Linux, normalmente el kernel lo mata sin avisar, así que nunca imprime su última línea.
Un filtro seccomp rechaza llamadas
sbx seccomp carga una lista de llamadas al sistema permitidas. Se rechaza toda llamada que no esté en la lista. La lista no tiene la llamada que abre una conexión de red, así que la llamada del agente dice ahora Operation not permitted.
sbx seccomp profiles/python.allow -- python3 agent/agent.py callSe muestra aquí y no se ejecuta. Pulsa Iniciar laboratorio para escribirlo en el terminal de tu propio laboratorio.
bubblewrap oculta una carpeta
bwrap construye un entorno aislado con montajes. Aquí muestra todo el disco en solo lectura y pone una carpeta vacía encima de secrets. El agente dice No such file or directory.
sudo bwrap --ro-bind / / --dev /dev --proc /proc --tmpfs /home/student/lab/secrets python3 agent/agent.py secretSe muestra aquí y no se ejecuta. Pulsa Iniciar laboratorio para escribirlo en el terminal de tu propio laboratorio.
Comprobación final
Consejo
Responde sin volver atrás. 1. ¿Qué quita un namespace de red? 2. ¿Qué le pasa a un programa que pasa su límite de memoria del cgroup? 3. ¿Qué hace una lista de permitidos de seccomp con una llamada que no nombra? 4. ¿Cómo ocultó bubblewrap la clave? Respuestas: toda la red; el kernel lo mata; la rechaza; con una carpeta vacía encima. Ahora abre el README.md con cat ~/README.md: escribirás un solo script con todas las vallas a la vez.
Para el profesorado
Consejo
Esta lección se trabaja en un laboratorio de VM: cada estudiante tiene su propia máquina Ubuntu, y un botón Ejecutar escribe en su terminal y muestra lo que se imprimió. Ideas clave: 1. Un código no confiable se ejecuta con todos los poderes de la cuenta que lo arranca. 2. Un namespace oculta una cosa, como la red. 3. Un cgroup limita la memoria, y el kernel mata a un programa que la pasa. 4. Una lista de permitidos de seccomp rechaza toda llamada que no nombra. Error frecuente: creer que un programa que pasa su límite de memoria recibe un error. Material: el laboratorio y un navegador. agent.py es un sustituto inofensivo y cada clave es un valor de prueba; los programas imprimen en inglés. Consejo: después de cada valla, pregunte qué otros trucos del agente no frenaría. El propio laboratorio tiene una comprobación que califica run-agent.sh con valores ocultos.