Glosario de IA
Caché
Una caché guarda el resultado de una llamada al modelo ya hecha para poder responder otra vez a la misma petición sin pagarla dos veces.
La caché más simple usa como clave el prompt exacto y los ajustes, y guarda la respuesta. Una pregunta repetida no cuesta nada y vuelve al instante.
Muchos proveedores también guardan en caché un comienzo largo de prompt que no cambia, como el prompt de sistema o un documento, y las llamadas siguientes salen más baratas y rápidas.
Una caché debe saber olvidar: incluye la versión del modelo y del prompt en la clave, para que un cambio no sirva las respuestas de ayer.
Apréndelo con práctica
Estas lecciones gratuitas lo enseñan con órdenes para ejecutar en un laboratorio y tareas corregidas. Se leen completas sin cuenta.