Glosario de IA
Límite de tasa
Un límite de tasa fija cuántas peticiones o tokens puedes enviar a una API en un periodo; al pasarlo, las peticiones se rechazan hasta que se reinicia la ventana.
Las API de modelos suelen limitar peticiones y tokens por minuto. Una llamada rechazada vuelve normalmente con el estado 429 y a veces con cuándo reintentar.
Lo habitual es reintentar con espera exponencial y algo de azar, para que muchos clientes no reintenten en el mismo instante.
Pon también tus propios límites: un bucle con un fallo puede gastar el presupuesto de un mes en una hora, y un límite por usuario protege a los demás.
Apréndelo con práctica
Estas lecciones gratuitas lo enseñan con órdenes para ejecutar en un laboratorio y tareas corregidas. Se leen completas sin cuenta.