Las familias y lo que las distingue
Los modelos abiertos más usados vienen de unas pocas familias: Llama, Mistral, Qwen, Gemma, DeepSeek y Phi. Cada una publica varios tamaños del mismo modelo. Dentro de una familia, el tamaño mayor razona mejor y el menor responde más deprisa.
El tamaño se mide en miles de millones de parámetros. Es el número que decide la memoria, y por tanto el equipo.
La cuantización: el mismo modelo en menos memoria
Un modelo se puede guardar con menos precisión en cada número. A eso se le llama cuantizar. A 4 bits, un modelo ocupa unas cuatro veces menos que el original y pierde muy poca calidad. Es lo que usa casi todo el mundo en local.
La regla: a 4 bits, unos 0,6 GB por cada mil millones de parámetros, más un margen para la conversación.
Qué memoria y qué equipo pide cada tamaño
| Tamaño del modelo | Memoria que ocupa | Para qué sirve | Equipo de partida |
|---|---|---|---|
| Hasta 8.000 millones | Unos 5 GB | Clasificar, extraer datos, resumir textos cortos | Cualquier gráfica de 8 GB |
| De 12.000 a 32.000 millones | De 8 a 20 GB | Asistente de trabajo, redacción, documentos | Gráfica de 16 a 24 GB o Compacto IA 32 |
| Unos 70.000 millones | Unos 42 GB | Razonamiento más fino, textos largos | Compacto IA 64 o dos gráficas de 24 GB |
| Más de 100.000 millones | Más de 65 GB | Los modelos abiertos más capaces | Compacto IA 128 o gráfica de 96 GB |
Un modelo mediano bien elegido resuelve la mayor parte del trabajo de oficina. Los grandes compensan cuando las preguntas son complejas o los documentos, muy largos.
El contexto: cuánto texto lee de una vez
El contexto es el texto que el modelo tiene delante: la pregunta, los documentos y la conversación. Un contexto mayor permite leer un contrato entero, pero ocupa memoria además del modelo. Por eso un equipo que carga el modelo justo se queda corto en cuanto se le pasa un documento largo.
La licencia: no todos se pueden usar igual
«Abierto» no significa lo mismo en todos los casos. Algunos modelos se publican con licencias como Apache 2.0 o MIT, que permiten el uso comercial sin más. Otros llevan condiciones propias del fabricante. Antes de construir un producto sobre un modelo, lee su licencia.
Equipos y guías relacionados
Preguntas frecuentes
¿Cuál es el mejor modelo abierto?
Depende del trabajo y cambia cada pocos meses. Lo estable es el tamaño: un modelo mediano para el día a día y uno grande para lo difícil. Con el equipo bien dimensionado, cambiar de modelo es descargar otro archivo.
¿Pierde calidad un modelo a 4 bits?
Muy poca en el uso normal. Si el trabajo exige la máxima fidelidad, se usa a 8 bits, que ocupa el doble. Por eso conviene tener memoria de sobra.
¿Funcionan bien en español?
Los modelos medianos y grandes de las familias principales responden bien en español. Los más pequeños flojean más. Conviene probarlos con textos reales.
¿Puedo usarlos en un producto que vendo?
Con muchos, sí, pero depende de la licencia de cada modelo. Las licencias Apache 2.0 y MIT lo permiten. Otras tienen condiciones que hay que leer.
¿Hacemos la cuenta con tu empresa?
Dinos cuántas personas la van a usar y con qué documentos. Te respondemos con el equipo, la instalación y el precio cerrado en menos de 12 horas laborables.