Glosario de IA
Ventana de contexto
La ventana de contexto es la cantidad máxima de texto, en tokens, que un modelo procesa en una llamada: el prompt, el historial y su propia respuesta juntos.
Todo lo que el modelo puede usar debe caber en ella: el prompt de sistema, los turnos anteriores, los documentos recuperados y la respuesta que escribe. Lo que queda fuera no existe para esa llamada.
Un chatbot de larga duración debe decidir qué quitar: recortar los turnos más antiguos, resumirlos o conservar solo lo importante. Cada opción pierde algo distinto.
Una ventana grande no sale gratis: los prompts largos cuestan más, responden más lento y un dato enterrado en medio se pasa por alto más que uno al principio o al final.
Apréndelo con práctica
Estas lecciones gratuitas lo enseñan con órdenes para ejecutar en un laboratorio y tareas corregidas. Se leen completas sin cuenta.