LLM de código abierto recomendados para alojar por cuenta propia

El mejor LLM de código abierto para la mayoría de los usuarios que se autoalojan en 2026 es Qwen3-30B-A3B, porque sus pesos cuantizados de 15 GB, sus 3B de parámetros activos, su licencia Apache-2.0 y su contexto de 128K encajan en una configuración práctica con una GPU de 24 GB. Los sistemas más pequeños deberían considerar Qwen3 8B o Gemma 3 4B, mientras que Mistral Small 4 es adecuado para servidores con varias GPU que necesiten capacidades multimodales y de agentes más avanzadas.

¿Qué LLM de código abierto es el mejor para el autoalojamiento en 2026?

Qwen3-30B-A3B ofrece el equilibrio general más sólido para el autoalojamiento en 2026, al combinar 30B de parámetros totales, 3B de parámetros activos, una ventana de contexto de 128K tokens y aproximadamente 15 GB de pesos de 4 bits. Una GPU de 24 GB proporciona un punto de partida realista para la inferencia, las asignaciones de ejecución y un contexto de tamaño moderado.

Un LLM de código abierto es un modelo de lenguaje cuyos pesos descargables y cuya licencia permiten su inspección, despliegue local y cierto grado de modificación o redistribución. Sin embargo, la etiqueta se utiliza de forma imprecisa. Los modelos Apache-2.0 y MIT ofrecen permisos de código abierto conocidos, mientras que los modelos Gemma y Llama utilizan condiciones personalizadas con requisitos adicionales.

La documentación de Qwen de 2025 recomienda vLLM o SGLang para servir Qwen3-30B-A3B. Para uso local, el proyecto identifica Ollama, LM Studio, MLX, llama.cpp y KTransformers como opciones compatibles. Esta amplitud es importante porque puedes empezar con una interfaz de escritorio y después trasladar la misma familia de modelos a una pila de servicio de producción.

Para una máquina más pequeña, la gama densa de Qwen3 de 2025 abarca 0.6B, 1.7B, 4B, 8B, 14B y 32B parámetros. Los pesos de 4 bits van desde menos de 1 GB hasta unos 16 GB, sin contar la sobrecarga. Elegir un checkpoint compacto puede ser más inteligente que perseguir un modelo insignia, una disyuntiva que se examina con más detalle en esta guía sobre por qué los modelos de lenguaje más pequeños tienen sentido práctico.

¿Cuánta memoria de GPU necesita un LLM de código abierto?

Por lo general, un LLM de código abierto necesita más memoria de la que sugiere por sí solo el archivo de pesos descargado. Un checkpoint de 4 bits de 15 GB puede caber en una GPU de 24 GB, pero el motor de inferencia, la caché de clave-valor, la longitud del contexto y las solicitudes simultáneas consumen la capacidad restante. Por tanto, las grandes ventanas de contexto anunciadas son límites, no modos de funcionamiento gratuitos.

El cálculo básico de los pesos es sencillo. La cuantización de 4 bits almacena cada parámetro en aproximadamente medio byte, por lo que un modelo denso de 30B parámetros tiene un mínimo teórico cercano a 15 GB: 30.000 millones multiplicados por 0,5 bytes. Los metadatos de cuantización y las asignaciones de ejecución elevan los requisitos reales.

Los modelos de mezcla de expertos añaden una complicación que a menudo se pasa por alto. Qwen3-30B-A3B activa aproximadamente 3B parámetros por token en 2025, pero aun así necesitas almacenar el modelo completo de 30B parámetros. Un número reducido de parámetros activos disminuye el cómputo; no reduce los pesos descargados al tamaño del subconjunto activo.

La siguiente comparación utiliza fichas de modelos y documentación oficial publicadas en 2025 o 2026. Las cifras de almacenamiento describen pesos de 4 bits aproximados, antes de la sobrecarga del tiempo de ejecución y de la caché de clave-valor.

LEER  Deezer informa de datos que muestran que el 44% de la música nueva está generada por IA
Comparativa de hardware y licencias de modelos autoalojados, basada en la documentación de 2025–2026
Modelo Parámetros Contexto Pesos de 4 bits aprox. Nivel de hardware práctico Licencia
Qwen3-30B-A3B (2025) 30B en total, 3B activos 128K tokens 15 GB GPU de 24 GB Apache 2.0
Mistral Small 3.1 (2025) 24B 128K tokens 12 GB GPU de 24 GB Apache 2.0
Gemma 3 12B (2025) 12B 128K tokens 6 GB GPU de 16 GB Condiciones de Gemma
Gemma 3 27B (2025) 27B 128K tokens 13,5 GB GPU de 24 GB Condiciones de Gemma
DeepSeek-R1 Distill 14B (2025) 14B 128K tokens 7 GB Más de 8 GB MIT
Mistral Small 4 (2026) 119B en total, 6,5B activos 256K tokens 60 GB Varias GPU o sistema unificado de gran memoria Apache 2.0

El contexto puede convertirse en el factor oculto que más presupuesto consume. Cargar 15 GB de pesos en una tarjeta de 24 GB deja aproximadamente 9 GB antes de la sobrecarga del motor, y ese remanente debe albergar la caché y las solicitudes. Hablando claro, una tarjeta de 24 GB es el mínimo sensato para Qwen3-30B-A3B, no una garantía de que cualquier carga de trabajo de 128K vaya a ejecutarse cómodamente.

¿Qué modelos caben en una GPU de 8 GB, 16 GB o 24 GB?

Gemma 3 4B es una opción práctica para 8 GB en 2025, Gemma 3 12B encaja en el nivel de 16 GB y Qwen3-30B-A3B o Mistral Small 3.1 son adecuados para una GPU de 24 GB. Estos niveles incluyen margen adicional más allá del almacenamiento aproximado de los pesos, aunque el contexto utilizable y la simultaneidad siguen dependiendo de la configuración del servicio.

La ficha de modelo de Google de 2025 para Gemma 3 enumera variantes de 1B, 4B, 12B y 27B. La edición de 1B solo admite texto y tiene un contexto de 32K; las ediciones más grandes son multimodales, admiten más de 140 idiomas y ofrecen un contexto de 128K. Los pesos de 4 bits aproximados son de 2 GB, 6 GB y 13,5 GB para las versiones 4B, 12B y 27B.

Mistral Small 3.1 resulta especialmente atractivo en el nivel de 24 GB. El anuncio de Mistral de 2025 especifica 24B parámetros, entrada multimodal, llamadas a funciones, contexto de 128K y licencia Apache-2.0. Sus aproximadamente 12 GB de pesos de 4 bits dejan más margen operativo que varias alternativas de capacidades similares.

Utiliza estos criterios para adaptar un modelo a tu máquina:

  • Reserva memoria adicional al archivo de pesos cuantizados para las asignaciones de ejecución y la caché de clave-valor.
  • Elige un objetivo de contexto basado en documentos reales, no en el máximo de la ficha del modelo.
  • Comprueba si realmente necesitas entrada de imágenes, llamadas a herramientas, programación o generación multilingüe.
  • Calcula los usuarios simultáneos porque la concurrencia multiplica la presión sobre la caché y la capacidad de cómputo.
  • Confirma la licencia exacta del checkpoint antes de realizar una implementación comercial.

¿Es Mistral Small 4 mejor que Qwen3-30B-A3B?

Mistral Small 4 es la opción más capaz, de categoría de infraestructura, en 2026, mientras que Qwen3-30B-A3B es la alternativa más accesible para alojarla por cuenta propia. Mistral Small 4 proporciona entrada multimodal, llamadas a funciones, un contexto de 256K y 6.5B de parámetros activos, pero sus aproximadamente 60 GB de pesos en 4 bits suelen requerir varias GPU o hardware unificado con mucha memoria.

LEER  Por qué tu reputación personal en línea dentro de las respuestas de la IA puede ser la versión que más importe

En comparación, el modelo de Qwen necesita unos 15 GB para los pesos en 4 bits y empieza a resultar práctico con una sola GPU de 24 GB. Ambos utilizan Apache 2.0, por lo que la decisión depende principalmente de la carga de trabajo y el presupuesto, más que de una licencia restrictiva específica del modelo.

Mistral Small 4 se adapta mejor a asistentes privados, agentes de programación, análisis de documentos e imágenes y servicios de razonamiento exigentes con hardware de servidor. Qwen3-30B-A3B se orienta a muchas de las mismas tareas, con menores exigencias de almacenamiento y cómputo. Si el objetivo son los agentes, entender cómo seleccionan herramientas los agentes de programación será tan importante como el tamaño bruto del modelo.

En la frontera entre un equipo de sobremesa y un servidor, mi elección es Qwen. Mistral Small 4 resulta muy atractivo cuando ya tienes el hardware y necesitas sus capacidades multimodales de 2026 o su contexto de 256K. Comprar varias GPU únicamente para presumir de una ventana de contexto mayor es difícil de justificar, salvo que tus documentos realmente lo exijan.

¿Todos los LLM descargables son realmente de código abierto?

Los pesos de los LLM descargables no son automáticamente de código abierto bajo una licencia estándar. En 2026, Qwen3 y Mistral Small 4 utilizan Apache 2.0, mientras que DeepSeek-R1 utiliza MIT. Google Gemma 3 y Meta Llama 4 utilizan condiciones específicas del modelo, por lo que los derechos comerciales y las condiciones de redistribución requieren una revisión independiente.

Google exige a los usuarios aceptar las condiciones de Gemma antes de obtener los archivos del modelo. Las versiones Scout y Maverick de Meta Llama 4 de 2025 utilizan la Llama 4 Community License, en lugar de Apache 2.0 o MIT. Ambos son modelos multimodales de mezcla de expertos con 17B de parámetros activos, y Scout tiene unos 109B de parámetros totales.

Tampoco se deben generalizar los nombres de las licencias a todo el catálogo de un proveedor. Las directrices de Mistral del 12 de agosto de 2026 indican que la mayoría de los modelos abiertos utilizan Apache 2.0, pero algunos incluyen condiciones MIT modificadas que exigen a las empresas con más de $20 millones de ingresos mensuales obtener una licencia comercial o utilizar Mistral Studio. Consulta la ficha de cada modelo.

La seguridad merece el mismo nivel de escrutinio a escala de checkpoint. La implementación local mantiene los prompts bajo tu control, pero los agentes con acceso a herramientas aún pueden ejecutar instrucciones inseguras o ingerir archivos hostiles de repositorios. Los riesgos descritos en los archivos AGENTS.md maliciosos dirigidos a agentes de programación demuestran por qué alojarlo por cuenta propia no sustituye a la ejecución en un entorno aislado ni a unos límites de permisos.

¿Cuándo deberías utilizar DeepSeek-R1 o esperar a un modelo más nuevo?

Las destilaciones de DeepSeek-R1 son buenas opciones locales en 2026 para matemáticas, programación y razonamiento complejo, pero el modelo completo, con 671B de parámetros totales, sigue requiriendo una implementación en un centro de datos. Las destilaciones de 14B y 32B requieren aproximadamente 7 GB y 16 GB de almacenamiento para los pesos en 4 bits, respectivamente, antes de contar la sobrecarga de ejecución.

El repositorio de DeepSeek de 2025 documenta 37B de parámetros activos y una ventana de contexto de 128K para DeepSeek-R1 completo, además de destilaciones de 1.5B, 7B, 8B, 14B, 32B y 70B. La licencia MIT es excepcionalmente sencilla para el alojamiento comercial por cuenta propia.

LEER  Las señales de los fundadores de IA de Anthropic sobre qué construir en 2026

La implementación completa es otra cuestión. La receta de vLLM de 2026 enumera ocho GPU de clase H200 para FP8 o cuatro GPU B200 para NVFP4. Esa receta admite una configuración de 163.840 tokens, superando la cifra original de 128K de la documentación del checkpoint, pero ninguna de las dos configuraciones encaja en el presupuesto de una estación de trabajo convencional.

Esperar también puede salir mal. Mistral anunció Mistral Large 4, de un billón de parámetros, en vista previa pública el 6 de octubre de 2026, con 52B de parámetros activos y un contexto anunciado de 1M de tokens. Los pesos descargables no habían aparecido el 27 de octubre de 2026, por lo que todavía no era una recomendación verificable para alojarlo por cuenta propia.

Preguntas frecuentes

¿Puedo ejecutar un LLM local sin GPU?

Un LLM local puede ejecutarse en una CPU o en un ordenador con memoria unificada, especialmente con entre 0.6B y 4B de parámetros, pero la generación suele ser más lenta que la inferencia en GPU. Las ediciones cuantizadas de Qwen3 y Gemma 3 son las candidatas más realistas dentro de las gamas de modelos de 2025 tratadas aquí.

¿Una ventana de contexto de 128K significa que siempre puedo procesar 128K tokens?

Una ventana de contexto de 128K indica el máximo documentado del modelo en 2025, no una garantía para todas las configuraciones locales. La memoria de la caché de pares clave-valor, el software de inferencia, la cuantización y la memoria GPU disponible pueden imponer un límite operativo mucho menor.

¿Ollama es adecuado para alojarlo por cuenta propia en producción?

Ollama resulta práctico para la evaluación local y las implementaciones pequeñas, y Qwen lo identificó como una opción local en 2025. Qwen recomienda vLLM o SGLang para servir Qwen3-30B-A3B cuando son importantes una mayor concurrencia y un funcionamiento orientado a producción.

¿Qué modelo alojado por cuenta propia es mejor para comprender imágenes?

Mistral Small 3.1, Mistral Small 4 y los modelos Gemma 3 superiores a 1B admiten entrada multimodal según su documentación de 2025 o 2026. Gemma 3 4B es la opción que menos memoria requiere de todas ellas, con unos 2 GB de pesos en 4 bits antes de la sobrecarga.

ES