Módulo gratuito
Seguridad de agentes de IA
Aprende seguridad de agentes de IA con práctica: amenazas, fugas de datos, delegado confundido, herramientas ajenas, separación de privilegios y red team.
Las lecciones
Cada lección se lee completa y gratis. Crea una cuenta gratuita para ejecutar sus comandos en un laboratorio y hacer sus cuestionarios y tareas.
1 · Laboratorio de contenedores
Modelado de amenazas de un agente de IA
Puedo mapear dónde se puede atacar a un agente y nombrar la mezcla de tres cosas que lo hace peligroso.
Leer la lección2 · Laboratorio de contenedores
Evitar la exfiltración en agentes de IA
Puedo cerrar las rutas por las que salen los datos de un agente, con una lista de destinos permitidos que el código comprueba.
Leer la lección3 · Laboratorio de contenedores
El delegado confundido en agentes de IA
Puedo evitar que un agente actúe con más autoridad que la persona que pide, comprobando cada acción contra quien la pide.
Leer la lección4 · Laboratorio de contenedores
Herramientas de terceros en agentes de IA
Puedo decidir si me fío de una herramienta que no escribí, fijando su definición y revisando lo que dice.
Leer la lección5 · Laboratorio de contenedores
Separación de privilegios en agentes de IA
Puedo dividir un agente para que el texto no fiable nunca llegue al poder de actuar. También sé encaminar textos y acciones según una política.
Leer la lección6 · Laboratorio de contenedores
Red team para agentes de IA
Puedo medir con qué frecuencia funciona un ataque, y si una corrección ayudó, sobre un conjunto de ataques grabados.
Leer la lección7 · Laboratorio de contenedores
Medir las defensas de un agente de IA
Puedo puntuar varias defensas de un agente sobre un conjunto etiquetado, contando ataques detenidos, ataques colados y falsos positivos.
Leer la lección
Con un laboratorio real
Cada lección de este módulo se practica en un laboratorio que se inicia solo para ti. Los laboratorios que usa:
¿Enseñas a una clase? Asigna este módulo a tus alumnos con guía del profesor, tareas con corrección automática y un laboratorio para cada alumno.