Glosario de IA
Inyección de prompt
La inyección de prompt es un ataque en el que un texto del usuario o hallado en los datos contiene instrucciones que hacen que el modelo ignore sus propias reglas.
La inyección directa es un usuario escribiendo «ignora tus instrucciones anteriores». La indirecta es peor: la instrucción se esconde en una web, un correo o un documento que el modelo lee mientras trabaja.
Un modelo no distingue de forma fiable instrucciones y datos, porque todo es texto en su contexto. La defensa es limitar lo que una instrucción inyectada podría hacer.
Da al modelo el menor poder posible, mantén los secretos fuera de su contexto, comprueba las llamadas a herramientas en código y pregunta a una persona antes de cualquier acción arriesgada.
Apréndelo con práctica
Estas lecciones gratuitas lo enseñan con órdenes para ejecutar en un laboratorio y tareas corregidas. Se leen completas sin cuenta.