Comparación de IA
Modelo local o API
Un modelo local deja datos y versiones bajo tu control a cambio de hardware y operación; una API alojada da modelos más grandes sin servidores, con pago por token.
| Aspecto | Modelo local | API alojada |
|---|---|---|
| Adónde van los datos | Se quedan en tus máquinas | Se envían al proveedor |
| Forma del coste | Hardware y energía, se use o no | Por token, solo al usarlo |
| Tamaño del modelo | Limitado por tu memoria | Hasta los más grandes disponibles |
| Cambios de versión | Solo cuando tú lo decides | Cuando el proveedor actualiza o retira un modelo |
Elige Modelo local cuando
- Los datos no deben salir de tu red
- El uso es constante y alto para mantener ocupado el hardware
- Necesitas una versión fija durante mucho tiempo
Elige API alojada cuando
- Necesitas los modelos más potentes
- El uso es bajo o irregular
- No quieres operar servidores de inferencia
Apréndelo con práctica
Estas lecciones gratuitas lo enseñan con órdenes para ejecutar en un laboratorio y tareas corregidas. Se leen completas sin cuenta.
Términos relacionados
- Modelo local
- Un modelo local es un modelo de lenguaje que se ejecuta en hardware que controlas, un portátil, un servidor o tu propia máquina en la nube, en vez de tras la API de otro.
- Pesos abiertos
- Un modelo de pesos abiertos es aquel cuyos parámetros entrenados se publican para descargar, de modo que puedes ejecutarlo, examinarlo y ajustarlo en tus propias máquinas.
- Cuantización
- La cuantización guarda los pesos de un modelo con menos bits, por ejemplo 4 en lugar de 16, para que ocupe menos memoria y vaya más rápido con una pequeña pérdida de calidad.