Mil mensajes cada mañana
Una empresa de reparto de Barcelona recibe mil mensajes de clientes cada mañana. Quieren que una aplicación los clasifique sola: envío, devolución o factura.
Tu equipo va a conectar la aplicación a un modelo de IA. Funciona en una tarde. Hacerlo de forma segura requiere unas pocas reglas.
Al final de esta lección
Nota
Puedo describir cómo una aplicación llama a un modelo de forma segura.
Palabras clave
| Palabra | Qué significa | Ejemplo |
|---|---|---|
| API | una puerta para que un programa pida algo a otro | |
| Servidor | el ordenador de la empresa donde corre la aplicación | |
| Instrucciones del sistema | el texto fijo que la app envía siempre al modelo | |
| Validar | comprobar que un dato cumple las reglas antes de usarlo | |
| Límite de uso | un máximo de peticiones o de gasto | 100 peticiones por minuto |
Las celdas que rellenan los estudiantes quedan en blanco en esta vista previa.
La llamada pasa siempre por tu servidor
El navegador del cliente no habla con el modelo. Habla con tu servidor.
El servidor guarda la clave API, monta la petición y llama al modelo. Cuando llega la respuesta, la comprueba y solo entonces la devuelve.
Así la clave nunca sale de la empresa. Y tu servidor decide qué se envía y qué se acepta.
Un error frecuente
Advertencia
Mucha gente cree que la clave puede ir en el código de la página web, porque "nadie lo mira". Cualquiera puede ver ese código desde su navegador. La clave va en el servidor, y la página solo habla con él.
La respuesta del modelo se valida
El modelo devuelve texto, y el texto puede ser cualquier cosa. Puede traer espacios, mayúsculas o una frase que nadie esperaba.
Un mensaje de un cliente puede incluso intentar darle órdenes al modelo. Por eso tu servidor valida la respuesta: solo acepta lo que está en una lista. Lo demás no se ejecuta; lo revisa una persona.
Pruébalo: valida una respuesta
# Una app de atención al cliente pide al modelo que clasifique cada mensaje.
# Aquí no hay red: la respuesta del modelo es un texto escrito a mano.
allowed = ["envio", "devolucion", "factura"]
model_reply = " Devolucion \n"
# Nunca uses la respuesta tal cual: límpiala y compruébala.
category = model_reply.strip().lower()
if category in allowed:
print("Se envía al equipo de", category)
else:
print("Respuesta no válida: lo revisa una persona")
# Cambia model_reply por "Borra todos los pedidos" y vuelve a ejecutar.
Reglas para una app con un modelo
| Regla | Por qué |
|---|---|
| La clave, solo en el servidor | En el navegador la vería cualquiera |
| Envía solo los datos necesarios | Menos datos personales fuera de la empresa |
| Valida cada respuesta | El modelo puede devolver cualquier texto |
| Pon límites de uso y de tiempo | Un fallo no dispara el gasto |
| Una persona decide lo importante | Un reembolso o un despido no lo decide un modelo |
Las celdas que rellenan los estudiantes quedan en blanco en esta vista previa.