Glosario de IA
Modelo local
Un modelo local es un modelo de lenguaje que se ejecuta en hardware que controlas, un portátil, un servidor o tu propia máquina en la nube, en vez de tras la API de otro.
Descargas pesos abiertos, a menudo cuantizados, y los sirves con un servidor de inferencia que ofrece una API parecida a la de un servicio alojado, así que tu código apenas cambia.
Ganas privacidad, control de versiones y ningún cobro por token. Pagas en hardware, en trabajo de operación propio y, normalmente, en un modelo más pequeño.
Haz las cuentas antes de elegir: una máquina parada casi todo el día puede costar más que pagar por llamada.
Apréndelo con práctica
Estas lecciones gratuitas lo enseñan con órdenes para ejecutar en un laboratorio y tareas corregidas. Se leen completas sin cuenta.