Les modèles d’IA locale à connaître
Llama, Qwen, Gemma, Mistral, gpt-oss, DeepSeek, FLUX, Wan, Whisper… Quelle famille pour quel usage, quelle taille pour votre carte graphique, et sous quelle licence.
Lire la fiche d’un modèle
Quatre informations suffisent à savoir si un modèle vous convient.
| Mention | Signification | Exemple |
|---|---|---|
| Paramètres (B) | Taille du modèle en milliards de paramètres : plus c’est grand, plus c’est capable et lourd. | qwen3:14b |
| Quantification | Niveau de compression. Q4_K_M = bon compromis ; Q8 = quasi sans perte, deux fois plus lourd. | …-Q4_K_M.gguf |
| Contexte | Quantité de texte traitée à la fois, en tokens (≈ 0,75 mot). | 128K = environ 300 pages |
| MoE | « Mixture of Experts » : seule une partie du modèle travaille à chaque mot. Rapide pour sa taille, mais il faut stocker tous les paramètres. | qwen3:30b-a3b (3B actifs) |
| Licence | Ce que vous avez le droit de faire : Apache 2.0 / MIT = très libre ; licences « communautaires » = conditions à lire. | Apache 2.0, Llama Community… |
VRAM nécessaire ≈ paramètres (en milliards) × 0,6 Go en Q4, plus 1 à 4 Go de contexte. Un 8B ≈ 5 Go, un 14B ≈ 9 Go, un 32B ≈ 20 Go, un 70B ≈ 42 Go. Si le modèle dépasse la VRAM, il fonctionne en partie sur la RAM, mais 5 à 20 fois plus lentement.
Les familles de modèles de langage
Les noms de commande sont ceux d’Ollama ; les mêmes modèles existent au format GGUF pour LM Studio.
| Famille | Éditeur | Tailles courantes | Points forts | Licence |
|---|---|---|---|---|
| Qwen3 (et successeurs) | Alibaba | 0,6 à 235B · qwen3:8b, 14b, 32b, 30b-a3b | Le meilleur rapport qualité/taille, mode réflexion, multilingue | Apache 2.0 |
| Gemma 3 (et successeurs) | 1 à 27B · gemma3:4b, 12b, 27b | Excellent français, vision intégrée, contexte 128K | Gemma Terms | |
| Mistral Small / Ministral | Mistral AI 🇫🇷 | 3 à 24B · mistral-small, ministral | Rédaction française soignée, rapide, fiable en entreprise | Apache 2.0 |
| gpt-oss | OpenAI | gpt-oss:20b · gpt-oss:120b | Raisonnement de haut niveau, MoE très rapide | Apache 2.0 |
| Llama 3.1 / 3.3 | Meta | llama3.1:8b · llama3.3:70b | Le plus téléchargé, très bien documenté, stable | Llama Community |
| DeepSeek-R1 | DeepSeek | Versions distillées 7 à 70B · deepseek-r1:14b | Raisonnement pas à pas (mathématiques, logique) | MIT |
| Phi-4 | Microsoft | phi4 (14B), phi4-mini | Compact, bon en raisonnement et en mathématiques | MIT |
| Usage spécialisé | Modèles | VRAM conseillée |
|---|---|---|
| Programmation | qwen3-coder:30b · devstral (Mistral AI) · qwen2.5-coder:14b | 16 à 32 Go |
| Vision (images, captures, PDF scannés) | gemma3 · qwen2.5vl · mistral-small (vision) | 8 à 24 Go |
| Embeddings (recherche dans vos documents) | bge-m3 (multilingue) · nomic-embed-text · mxbai-embed-large | < 2 Go |
| Très gros modèles MoE | gpt-oss:120b · qwen3:235b | 64 à 192 Go (VRAM + RAM) |
Les éditeurs publient de nouvelles versions plusieurs fois par an (Qwen, Gemma, Mistral, Llama, DeepSeek…), généralement meilleures à taille égale. Pour rester à jour, consultez ollama.com/library (tri par date) ou la section Discover de LM Studio, et préférez la dernière version d’une même famille.
Que faire tourner avec votre VRAM ?
| VRAM | Exemples de cartes | Texte (confortable) | Images & vidéo |
|---|---|---|---|
| 8 Go | RTX 4060, 5060 | 4 à 8B (Qwen3 8B, Gemma 3 4B) | SDXL, FLUX en GGUF (lent) |
| 12 Go | RTX 4070, 5070 | 8 à 14B en Q4 | SDXL, FLUX fp8 / GGUF |
| 16 Go | RTX 5060 Ti 16 Go, 5070 Ti, 5080 | 14B rapide, 20 à 24B (gpt-oss 20B, Mistral Small) | FLUX, Z-Image, Wan 2.2 5B |
| 24 Go | RTX 3090, 4090 | 24 à 32B (Qwen3 32B, Gemma 3 27B) | FLUX dev, Qwen-Image fp8 |
| 32 Go | RTX 5090 | 32B avec long contexte, code 30B | FLUX.2, Wan 2.2 14B fp8 |
| 64 Go | 2 × RTX 5090 | 70B en Q4 | Vidéo haute résolution, lots |
| 96 Go + | RTX PRO 6000 Blackwell | 70B en Q8, gpt-oss 120B, multi-utilisateurs | Tous les modèles sans compromis |
Le Forge Halo X
- RTX 5070 Ti 16 Go
- Modèles jusqu’à 14 à 20B
- Images FLUX, Whisper
Le Forge Venom
- Threadripper 9000
- 32 à 64 Go de VRAM
- 70B, vidéo, code
Le Forge IA Platinium
- RTX Ada / PRO
- Gros modèles, équipes
- Fine-tuning
Les autres familles de modèles
| Domaine | Modèles de référence | Outil | VRAM |
|---|---|---|---|
| Images | FLUX.1 / FLUX.2, SDXL, Qwen-Image, Z-Image, SD 3.5 | ComfyUI | 8 à 32 Go |
| Retouche d’image par instruction | Qwen-Image-Edit, FLUX Kontext | ComfyUI | 16 à 32 Go |
| Vidéo | Wan 2.2, LTX-Video, HunyuanVideo | ComfyUI | 12 à 96 Go |
| Transcription | Whisper large-v3-turbo, large-v3 | Buzz, faster-whisper | 2 à 5 Go |
| Synthèse vocale | Piper (léger, français), Kokoro, XTTS | Open WebUI, scripts | 0 à 6 Go |
| Musique | ACE-Step, Stable Audio Open | ComfyUI | 8 à 24 Go |
Apache 2.0 et MIT autorisent l’usage commercial. Les licences « communautaires » (Llama, Gemma) l’autorisent sous conditions. Certaines licences d’images (FLUX.1 dev par exemple) sont non commerciales pour le modèle. Lisez toujours la fiche du modèle sur Hugging Face avant un usage professionnel.
Choisir un modèle : vos questions
Quel est le meilleur modèle local en français ?
Pour 16 Go de VRAM, Mistral Small et Gemma 3 12B rédigent un français très naturel ; Qwen3 14B est excellent en raisonnement. Avec 32 Go, Qwen3 32B ou Gemma 3 27B. Le meilleur choix dépend de votre usage : testez-en deux ou trois sur vos propres tâches.
Un modèle local vaut-il ChatGPT ?
Les meilleurs modèles locaux de 30 à 120B atteignent le niveau des grands assistants en ligne d’il y a un à deux ans, et suffisent pour la grande majorité des tâches courantes (rédaction, résumé, code, analyse de documents). Les tout meilleurs modèles en ligne restent devant sur les tâches les plus complexes.
Q4 ou Q8 ?
Q4_K_M est le bon réglage par défaut. Passez en Q5, Q6 ou Q8 si votre VRAM le permet et que vous cherchez la précision maximale (code, chiffres). En dessous de Q4, préférez un modèle plus petit.
Qu’est-ce qu’un modèle « distillé » ?
Un petit modèle entraîné à imiter un plus gros. Les versions 7 à 70B de DeepSeek-R1 sont par exemple des modèles Qwen ou Llama distillés à partir du grand DeepSeek-R1.