Glosario de IA
Barreras de seguridad (guardrails)
Las barreras de seguridad son los controles alrededor de una llamada al modelo que frenan entradas y salidas no deseadas, aplicados en código y no solo pedidos en el prompt.
Están a ambos lados del modelo: a la entrada, longitud, tema y datos personales; a la salida, formato, contenido prohibido y si una llamada a herramienta está permitida.
Un ejemplo sencillo es una lista de permitidos: el asistente puede llamar a estas tres herramientas con estos rangos de argumentos, y el código rechaza todo lo demás antes de ejecutarlo.
Una barrera escrita solo como frase del prompt de sistema es un deseo. Las de verdad son código que se ejecuta diga lo que diga el modelo.
Apréndelo con práctica
Estas lecciones gratuitas lo enseñan con órdenes para ejecutar en un laboratorio y tareas corregidas. Se leen completas sin cuenta.