Le meilleur LLM open source pour la plupart des utilisateurs qui l’hébergent eux-mêmes en 2026 est Qwen3-30B-A3B, car ses poids quantifiés de 15 Go, ses 3 milliards de paramètres actifs, sa licence Apache-2.0 et son contexte de 128K s’adaptent à une configuration GPU pratique de 24 Go. Les systèmes plus modestes devraient envisager Qwen3 8B ou Gemma 3 4B, tandis que Mistral Small 4 convient aux serveurs multi-GPU qui nécessitent de meilleures capacités multimodales et d’agent.
Quel LLM open source est le meilleur pour l’auto-hébergement en 2026 ?
Qwen3-30B-A3B offre le meilleur équilibre global pour l’auto-hébergement en 2026, en combinant 30 milliards de paramètres au total, 3 milliards de paramètres actifs, une fenêtre de contexte de 128K tokens et environ 15 Go de poids en 4 bits. Un GPU de 24 Go constitue un point de départ réaliste pour l’inférence, les allocations d’exécution et un contexte de taille modérée.
Un LLM open source est un modèle de langage dont les poids téléchargeables et la licence permettent l’inspection, le déploiement local et un certain degré de modification ou de redistribution. Toutefois, cette appellation est utilisée de manière assez souple. Les modèles Apache-2.0 et MIT offrent des autorisations open source familières, tandis que les modèles Gemma et Llama utilisent des conditions personnalisées assorties de contraintes supplémentaires.
La documentation de Qwen publiée en 2025 recommande vLLM ou SGLang pour servir Qwen3-30B-A3B. Pour une utilisation locale, le projet identifie Ollama, LM Studio, MLX, llama.cpp et KTransformers comme options prises en charge. Cette diversité est importante, car vous pouvez commencer avec une interface de bureau, puis intégrer la même famille de modèles dans une pile de serveurs de production.
Pour une machine plus modeste, la gamme dense Qwen3 de 2025 couvre 0,6B, 1,7B, 4B, 8B, 14B et 32B paramètres. Les poids en 4 bits vont de moins de 1 Go à environ 16 Go, hors surcharge. Choisir un point de contrôle compact peut être plus judicieux que de rechercher un modèle phare, un compromis examiné plus en détail dans ce guide consacré à la pertinence pratique des modèles de langage plus compacts.
De combien de mémoire GPU un LLM open source a-t-il besoin ?
Un LLM open source nécessite généralement plus de mémoire que ne le laisse penser le seul fichier de poids téléchargé. Un point de contrôle de 15 Go en 4 bits peut tenir sur un GPU de 24 Go, mais le moteur d’inférence, le cache clé-valeur, la longueur du contexte et les requêtes simultanées consomment la capacité restante. Les longues fenêtres de contexte annoncées sont donc des limites, et non des modes de fonctionnement gratuits.
Le calcul de base des poids est simple. La quantification sur 4 bits stocke chaque paramètre dans environ un demi-octet ; un modèle dense de 30 milliards de paramètres présente donc un plancher théorique proche de 15 Go : 30 milliards multipliés par 0,5 octet. Les métadonnées de quantification et les allocations d’exécution augmentent les besoins réels.
Les modèles à mélange d’experts ajoutent une complication souvent négligée. Qwen3-30B-A3B active environ 3 milliards de paramètres par token en 2025, mais vous devez tout de même stocker le modèle complet de 30 milliards de paramètres. Un faible nombre de paramètres actifs réduit les calculs ; il ne réduit pas les poids téléchargés à la taille du sous-ensemble actif.
La comparaison suivante utilise des fiches de modèles et de la documentation officielle publiées en 2025 ou 2026. Les chiffres de stockage décrivent des poids approximatifs en 4 bits, avant la surcharge liée à l’exécution et au cache clé-valeur.
| Modèle | Paramètres | Contexte | Poids approximatifs en 4 bits | Catégorie matérielle pratique | Licence |
|---|---|---|---|---|---|
| Qwen3-30B-A3B (2025) | 30B au total, 3B actifs | 128K tokens | 15 GB | GPU de 24 Go | Apache 2.0 |
| Mistral Small 3.1 (2025) | 24B | 128K tokens | 12 Go | GPU de 24 Go | Apache 2.0 |
| Gemma 3 12B (2025) | 12B | 128K tokens | 6 Go | GPU de 16 Go | Conditions de Gemma |
| Gemma 3 27B (2025) | 27B | 128K tokens | 13,5 Go | GPU de 24 Go | Conditions de Gemma |
| DeepSeek-R1 Distill 14B (2025) | 14B | 128K tokens | 7 Go | Prévoir plus de 8 Go | MIT |
| Mistral Small 4 (2026) | 119B au total, 6,5B actifs | 256K tokens | 60 Go | Système multi-GPU ou système unifié à mémoire élevée | Apache 2.0 |
Le contexte peut devenir le facteur limitant caché. Charger 15 Go de poids sur une carte de 24 Go laisse environ 9 Go avant la surcharge du moteur, et ce reliquat doit accueillir le cache et les requêtes. Soyons francs : une carte de 24 Go constitue le minimum raisonnable pour Qwen3-30B-A3B, et non la garantie que chaque charge de travail en 128K s’exécutera confortablement.
Quels modèles tiennent sur un GPU de 8 Go, 16 Go ou 24 Go ?
Gemma 3 4B constitue un choix pratique pour 8 Go en 2025, Gemma 3 12B correspond à une catégorie de 16 Go, et Qwen3-30B-A3B ou Mistral Small 3.1 conviennent à un GPU de 24 Go. Ces catégories incluent une marge au-delà du stockage approximatif des poids, même si le contexte utilisable et la simultanéité dépendent encore de la configuration du serveur.
La fiche du modèle Gemma 3 de Google publiée en 2025 répertorie les variantes 1B, 4B, 12B et 27B. L’édition 1B est uniquement textuelle avec un contexte de 32K ; les éditions plus grandes sont multimodales, prennent en charge plus de 140 langues et offrent un contexte de 128K. Les poids approximatifs en 4 bits sont de 2 Go, 6 Go et 13,5 Go pour les versions 4B, 12B et 27B.
Mistral Small 3.1 est particulièrement intéressant au niveau de 24 Go. L’annonce de Mistral publiée en 2025 précise 24 milliards de paramètres, des entrées multimodales, l’appel de fonctions, un contexte de 128K et une licence Apache-2.0. Ses quelque 12 Go de poids en 4 bits laissent davantage de marge de fonctionnement que plusieurs alternatives aux capacités comparables.
Utilisez ces critères pour adapter un modèle à votre machine :
- Réservez de la mémoire au-delà du fichier de poids quantifiés pour les allocations d’exécution et le cache clé-valeur.
- Choisissez une cible de contexte fondée sur les documents réels, et non sur le maximum indiqué dans la fiche du modèle.
- Vérifiez si l’entrée d’images, l’appel d’outils, le codage ou la production multilingue sont réellement nécessaires.
- Estimez le nombre d’utilisateurs simultanés, car la concurrence multiplie la pression exercée sur le cache et les ressources de calcul.
- Confirmez la licence exacte du checkpoint avant tout déploiement commercial.
Mistral Small 4 est-il meilleur que Qwen3-30B-A3B ?
Mistral Small 4 est l’option la plus performante, de classe infrastructure, en 2026, tandis que Qwen3-30B-A3B est le choix d’auto-hébergement le plus accessible. Mistral Small 4 fournit une entrée multimodale, l’appel de fonctions, un contexte de 256K et 6,5 milliards de paramètres actifs, mais ses poids d’environ 60 Go en 4 bits nécessitent généralement plusieurs GPU ou un matériel unifié à grande mémoire.
En comparaison, le modèle Qwen nécessite environ 15 Go pour ses poids en 4 bits et devient réellement exploitable sur un seul GPU de 24 Go. Tous deux utilisent Apache 2.0 ; la décision dépend donc principalement de la charge de travail et du budget, plutôt que d’une licence restrictive propre au modèle.
Mistral Small 4 convient mieux aux assistants privés, aux agents de codage, à l’analyse de documents et d’images, ainsi qu’aux services de raisonnement exigeants fonctionnant sur du matériel serveur. Qwen3-30B-A3B vise nombre de ces mêmes tâches avec des besoins moindres en stockage et en calcul. Si les agents sont votre objectif, comprendre comment les agents de codage sélectionnent les outils comptera autant que la taille brute du modèle.
À la frontière entre ordinateur de bureau et serveur, je choisirais Qwen. Mistral Small 4 devient intéressant si vous possédez déjà le matériel et avez besoin de ses capacités multimodales ou de son contexte de 256K en 2026. Acheter plusieurs GPU uniquement pour bénéficier d’une fenêtre de contexte plus large est difficile à justifier, sauf si vos documents l’exigent réellement.
Tous les LLM téléchargeables sont-ils vraiment open source ?
Les poids des LLM téléchargeables ne sont pas automatiquement open source au titre d’une licence standard. En 2026, Qwen3 et Mistral Small 4 utilisent Apache 2.0, tandis que DeepSeek-R1 utilise MIT. Google Gemma 3 et Meta Llama 4 utilisent des conditions propres à chaque modèle ; les droits commerciaux et les conditions de redistribution nécessitent donc un examen distinct.
Google exige que les utilisateurs acceptent les conditions de Gemma avant d’obtenir les fichiers du modèle. Les versions Llama 4 Scout et Maverick de Meta, publiées en 2025, utilisent la Llama 4 Community License plutôt qu’Apache 2.0 ou MIT. Tous deux sont des modèles multimodaux à mélange d’experts comptant 17 milliards de paramètres actifs, et Scout compte environ 109 milliards de paramètres au total.
Les noms des licences ne doivent pas non plus être généralisés à l’ensemble du catalogue d’un fournisseur. Les directives de Mistral du 12 août 2026 indiquent que la plupart de ses modèles open source utilisent Apache 2.0, mais que certains sont soumis à des conditions MIT modifiées exigeant des entreprises réalisant plus de 20 millions de dollars de chiffre d’affaires mensuel qu’elles obtiennent une licence commerciale ou utilisent Mistral Studio. Consultez la fiche de chaque modèle.
La sécurité mérite le même niveau d’examen au niveau du checkpoint. Le déploiement local vous permet de garder le contrôle des requêtes, mais les agents dotés d’outils peuvent toujours exécuter des instructions dangereuses ou ingérer des fichiers de dépôt malveillants. Les risques signalés liés aux fichiers AGENTS.md malveillants ciblant les agents de codage montrent pourquoi l’auto-hébergement ne remplace ni le bac à sable ni les limites d’autorisation.
Quand faut-il utiliser DeepSeek-R1 ou attendre un modèle plus récent ?
Les distillations de DeepSeek-R1 constituent de solides choix locaux en 2026 pour les mathématiques, le codage et le raisonnement complexe, mais le modèle complet de 671 milliards de paramètres au total reste destiné à un déploiement en centre de données. Les distillations de 14B et 32B nécessitent respectivement environ 7 Go et 16 Go de stockage pour les poids en 4 bits, avant la surcharge d’exécution.
Le dépôt DeepSeek de 2025 documente 37 milliards de paramètres actifs et une fenêtre de contexte de 128K pour DeepSeek-R1 complet, ainsi que des distillations de 1,5B, 7B, 8B, 14B, 32B et 70B. La licence MIT est exceptionnellement simple pour l’auto-hébergement commercial.
Le déploiement complet est une autre affaire. La recette vLLM de 2026 répertorie huit GPU de classe H200 pour FP8 ou quatre GPU B200 pour NVFP4. Cette recette prend en charge une configuration de 163 840 tokens, dépassant le chiffre initial de 128K indiqué dans la documentation du checkpoint, mais aucune de ces configurations ne correspond au budget d’une station de travail ordinaire.
Attendre peut également se retourner contre vous. Mistral a annoncé Mistral Large 4, doté d’un billion de paramètres, en préversion publique le 6 octobre 2026, avec 52 milliards de paramètres actifs et un contexte annoncé d’un million de tokens. Les poids téléchargeables n’étaient pas encore disponibles au 27 octobre 2026 ; il ne s’agissait donc pas encore d’une recommandation d’auto-hébergement vérifiable.
Questions fréquemment posées
Puis-je exécuter un LLM local sans GPU ?
Un LLM local peut fonctionner sur un CPU ou un ordinateur à mémoire unifiée, en particulier avec 0,6B à 4B paramètres, mais la génération est généralement plus lente que l’inférence sur GPU. Les éditions quantifiées de Qwen3 et Gemma 3 sont les candidates les plus réalistes parmi les gammes de modèles 2025 couvertes ici.
Une fenêtre de contexte de 128K signifie-t-elle que je peux toujours traiter 128K tokens ?
Une fenêtre de contexte de 128K indique le maximum documenté du modèle en 2025, et non une garantie pour chaque configuration locale. La mémoire du cache clé-valeur, le logiciel d’inférence, la quantification et la mémoire GPU disponible peuvent imposer une limite d’utilisation bien plus faible.
Ollama convient-il à l’auto-hébergement en production ?
Ollama est pratique pour l’évaluation locale et les déploiements de petite taille, et Qwen l’a identifié comme une option locale en 2025. Qwen recommande vLLM ou SGLang pour servir Qwen3-30B-A3B lorsque la concurrence élevée et un fonctionnement orienté production sont importants.
Quel modèle auto-hébergé est le meilleur pour comprendre les images ?
Mistral Small 3.1, Mistral Small 4 et les modèles Gemma 3 de plus de 1B prennent tous en charge l’entrée multimodale, selon leur documentation de 2025 ou 2026. Gemma 3 4B est l’option nécessitant le moins de mémoire parmi eux, avec environ 2 Go de poids en 4 bits avant surcharge.


