Glosario de IA
Enrutamiento de modelos
El enrutamiento de modelos envía cada petición al modelo que mejor le encaja, a menudo uno pequeño y barato para lo fácil y uno grande solo cuando hace falta.
Un enrutador puede ser una regla simple, como enviar las preguntas cortas al modelo pequeño, o un clasificador que estima lo difícil que es una petición.
El enrutamiento va de la mano de las alternativas: si un modelo tarda demasiado o rechaza la llamada, la petición pasa a otro y la función sigue funcionando.
Cada ruta necesita sus propias evaluaciones. Un modelo más barato que falla en silencio con un tipo de petición ahorra dinero y cuesta confianza.
Apréndelo con práctica
Estas lecciones gratuitas lo enseñan con órdenes para ejecutar en un laboratorio y tareas corregidas. Se leen completas sin cuenta.