Installer Ollama et lancer votre première IA locale
Ollama est le moteur le plus utilisé pour faire tourner des modèles de langage (Llama, Qwen, Gemma, Mistral, gpt-oss…) sur votre propre carte graphique. Une installation, une commande, et vous discutez avec une IA 100 % privée.
Ollama, à quoi ça sert ?
Avant d’installer, il faut comprendre ce que fait l’outil et ce qu’il ne fait pas.
Un modèle de langage est un gros fichier de « poids » (de 1 à plus de 100 Go). Pour qu’il réponde, il faut un programme capable de le charger dans la mémoire de la carte graphique (la VRAM) et de calculer les réponses mot par mot : c’est un moteur d’inférence. Ollama est ce moteur, emballé de façon à être extrêmement simple.
- Il télécharge les modèles depuis sa bibliothèque en une commande (
ollama pull), déjà compressés (quantifiés) dans un format adapté aux PC. - Il les fait tourner sur votre GPU NVIDIA (CUDA), AMD (ROCm) ou à défaut sur le processeur, en choisissant automatiquement la répartition.
- Il les met à disposition des autres logiciels via une API locale sur le port 11434, compatible avec le format OpenAI. C’est pour cela qu’Open WebUI, des extensions VS Code, n8n ou vos propres scripts peuvent s’y brancher.
Ollama propose aussi une petite application de chat sur Windows et macOS. Pour une interface complète (documents, historique, plusieurs utilisateurs), on lui ajoute Open WebUI.
✔ Avantages
- Installation en quelques minutes, sans Python ni configuration
- Des centaines de modèles prêts à l’emploi, une commande pour chacun
- API locale standard : tous les outils IA savent s’y connecter
- Gratuit, open source (licence MIT), très bien maintenu
- Données 100 % locales, fonctionne hors ligne
- Tourne en tâche de fond et libère la VRAM quand on ne l’utilise plus
✖ Inconvénients
- L’interface native reste basique : il faut Open WebUI pour un vrai confort
- Moins de réglages fins que LM Studio ou llama.cpp en direct
- Contexte par défaut assez court : à augmenter pour les longs documents
- Les modèles de la bibliothèque sont pré-quantifiés : moins de choix qu’Hugging Face
- Les modèles locaux restent moins puissants que les meilleurs services cloud
Ce qu’il vous faut avant de commencer
| Élément | Minimum | Conseillé |
|---|---|---|
| Système | Windows 10 22H2 / 11, ou Linux 64 bits (Ubuntu, Debian, Fedora…) | Windows 11 ou Ubuntu 24.04 LTS |
| Carte graphique | Aucune (CPU seul, lent) | NVIDIA RTX avec 16 Go de VRAM ou plus |
| Mémoire vive | 16 Go | 32 à 64 Go |
| Stockage | 20 Go libres | SSD NVMe, 500 Go à 2 To pour collectionner les modèles |
| Pilote | Pilote NVIDIA récent | Dernière version Studio ou Game Ready |
Une carte NVIDIA n’est utilisée que si le pilote est récent. Si ce n’est pas fait, suivez d’abord notre tutoriel Préparer son PC pour l’IA. Pas besoin d’installer CUDA à part : Ollama embarque tout ce qu’il faut.
Installer Ollama pas à pas
Choisissez votre système : les instructions s’adaptent.
- Téléchargez l’installeur
Rendez-vous sur ollama.com/download, choisissez Windows et téléchargez
OllamaSetup.exe. - Installez
Double-cliquez sur le fichier, puis cliquez sur Install. Aucun droit administrateur n’est nécessaire : Ollama s’installe dans votre profil utilisateur. À la fin, une icône de lama apparaît près de l’horloge.
Vous préférez la ligne de commande ? Dans un terminal :
winget install --id Ollama.Ollama
- Vérifiez l’installation
Ouvrez PowerShell ou le Terminal Windows (touche ⊞ Win, tapez « terminal ») :
ollama --version
- Lancez votre premier modèle
La commande télécharge le modèle à la première utilisation, puis ouvre une conversation :
ollama run gemma3:4b
Écrivez votre question puis Entrée. Pour quitter :
/bye. - Ou utilisez l’application
Ouvrez Ollama depuis le menu Démarrer : une fenêtre de chat simple permet de choisir un modèle dans une liste et de discuter sans terminal. Le modèle se télécharge au premier message.
- Lancez le script officiel
Dans un terminal, une seule commande installe Ollama, crée l’utilisateur système et le service, et détecte votre GPU NVIDIA ou AMD :
curl -fsSL https://ollama.com/install.sh | sh
- Vérifiez le service
Ollama tourne en arrière-plan en tant que service systemd :
systemctl status ollama ollama --version
La sortie doit indiquer active (running). Si une carte NVIDIA est détectée, le script l’affiche à la fin de l’installation.
- Lancez votre premier modèle
ollama run gemma3:4b
Pour quitter la conversation :
/byeou Ctrl + D. - Vérifiez que le GPU travaille
Pendant qu’une réponse s’écrit, dans un second terminal :
ollama ps nvidia-smi
La colonne PROCESSOR doit afficher 100% GPU. Si vous voyez « CPU » ou un mélange, le modèle est trop gros pour votre VRAM ou le pilote n’est pas chargé.
Les commandes à connaître
Une dizaine de commandes suffisent pour tout gérer.
| Commande | Ce qu’elle fait |
|---|---|
ollama run qwen3:8b | Télécharge (si besoin) et ouvre une conversation |
ollama pull mistral-small | Télécharge un modèle sans le lancer |
ollama list | Liste les modèles installés et leur taille |
ollama ps | Montre les modèles chargés en mémoire et la part GPU / CPU |
ollama stop qwen3:8b | Décharge un modèle de la VRAM |
ollama rm gemma3:4b | Supprime un modèle du disque |
ollama show qwen3:8b | Affiche les détails : taille, contexte, quantification, licence |
ollama serve | Démarre le serveur manuellement (utile si le service est arrêté) |
/set parameter num_ctx 16384 | Dans une conversation : agrandit la mémoire de contexte |
/bye | Quitte la conversation |
Comprendre les noms des modèles
qwen3:14b se lit « famille Qwen3, version 14 milliards de paramètres ». Sans étiquette (ollama run qwen3), Ollama prend la taille par défaut. Vous pouvez préciser la quantification, par exemple qwen3:14b-q8_0 pour plus de précision (mais deux fois plus de VRAM qu’en Q4).
Quels modèles installer en premier ?
Nos recommandations par usage et par quantité de VRAM. Les tailles sont celles des versions Q4 par défaut.
| Usage | Modèle (commande) | Taille | VRAM conseillée |
|---|---|---|---|
| Premier essai, PC modeste | gemma3:4b · qwen3:4b | ≈ 3 Go | 6 à 8 Go |
| Usage quotidien polyvalent | qwen3:8b · llama3.1:8b | ≈ 5 Go | 8 Go |
| Le bon compromis 16 Go | qwen3:14b · gemma3:12b | 8 à 9 Go | 12 à 16 Go |
| Français, rédaction pro | mistral-small (24B, Mistral AI) | ≈ 15 Go | 16 à 24 Go |
| Raisonnement poussé | gpt-oss:20b · deepseek-r1:14b | 9 à 14 Go | 16 Go |
| Programmation | qwen3-coder:30b · devstral | 14 à 19 Go | 24 à 32 Go |
| Vision (analyser des images) | gemma3:12b · qwen2.5vl:7b | 6 à 8 Go | 12 à 16 Go |
| Haut de gamme | qwen3:32b · gemma3:27b | 17 à 20 Go | 24 à 32 Go |
| Très gros modèles | llama3.3:70b · gpt-oss:120b | 43 à 65 Go | 48 à 96 Go |
| Recherche dans vos documents (RAG) | nomic-embed-text · bge-m3 | 0,3 à 1 Go | Tous |
De nouvelles versions (Qwen, Gemma, Mistral, Llama, DeepSeek…) sortent régulièrement et remplacent les précédentes à taille égale. Consultez ollama.com/library et préférez la version la plus récente d’une même famille. Notre catalogue des modèles détaille chaque famille, sa licence et ses points forts.
La règle simple pour la VRAM
En Q4, comptez environ 0,6 Go de VRAM par milliard de paramètres, plus 1 à 4 Go pour le contexte. Un 14B tient donc confortablement dans 16 Go, un 32B dans 24 à 32 Go, un 70B dans 48 Go. Si le modèle dépasse la VRAM, Ollama bascule une partie sur le processeur : ça fonctionne, mais 5 à 20 fois plus lentement.
Une RTX 5070 Ti ou 5080 (16 Go) fait tourner tous les modèles jusqu’à 14B à grande vitesse. Une RTX 5090 (32 Go) ouvre les 32B, le code et la vidéo ; deux cartes ou une RTX PRO 6000 (96 Go) ouvrent les 70B et gpt-oss-120b.
Réglages utiles
Changer le dossier des modèles, augmenter le contexte, ouvrir Ollama au réseau, utiliser l’API.
Déplacer les modèles sur un autre disque
Par défaut, les modèles sont stockés dans C:\Users\VOUS\.ollama\models sous Windows et dans /usr/share/ollama/.ollama/models sous Linux (installation en service). Pour utiliser un autre SSD, définissez la variable OLLAMA_MODELS.
Menu Démarrer → « Modifier les variables d’environnement pour votre compte » → Nouvelle : nom OLLAMA_MODELS, valeur D:\IA\ollama. Quittez Ollama (clic droit sur l’icône → Quit) puis relancez-le. Ou en PowerShell :
setx OLLAMA_MODELS "D:\IA\ollama"
On ajoute une surcharge au service systemd :
sudo systemctl edit ollama # ajoutez ces deux lignes puis enregistrez : # [Service] # Environment="OLLAMA_MODELS=/data/ollama" sudo mkdir -p /data/ollama && sudo chown -R ollama:ollama /data/ollama sudo systemctl daemon-reload && sudo systemctl restart ollama
Augmenter la mémoire de contexte
Le contexte est la quantité de texte que le modèle « voit » à la fois (votre conversation, un document). Le réglage par défaut est volontairement court pour économiser la VRAM. Pour analyser de longs documents, augmentez-le avec la variable OLLAMA_CONTEXT_LENGTH (par exemple 16384 ou 32768), ou dans Open WebUI au niveau de chaque modèle. Chaque doublement du contexte consomme plus de VRAM.
Utiliser l’API
Ollama répond sur http://localhost:11434. Il expose aussi un point d’accès compatible OpenAI sur /v1 : la plupart des logiciels qui savent parler à ChatGPT peuvent parler à votre IA locale en changeant simplement l’adresse.
curl http://localhost:11434/api/generate -d '{"model":"qwen3:8b","prompt":"Bonjour !","stream":false}'Accéder à Ollama depuis un autre PC du réseau
Définissez OLLAMA_HOST=0.0.0.0 (même méthode que OLLAMA_MODELS) puis redémarrez Ollama. Les autres machines pourront l’utiliser via http://IP-DU-PC:11434.
L’API d’Ollama n’a aucun mot de passe. Ne l’ouvrez jamais directement sur internet (pas de redirection de port sur votre box). Pour un accès à distance, passez par un VPN (WireGuard, Tailscale) ou placez Open WebUI devant, avec ses comptes utilisateurs.
Mettre à jour, désinstaller, dépanner
Mettre à jour : Ollama se met à jour tout seul (une notification apparaît sur l’icône) ; sinon, réinstallez simplement la dernière version par-dessus. Désinstaller : Paramètres → Applications → Ollama → Désinstaller, puis supprimez le dossier .ollama de votre profil pour libérer l’espace des modèles.
Mettre à jour : relancez simplement le script d’installation, il remplace la version en place sans toucher à vos modèles.
curl -fsSL https://ollama.com/install.sh | sh
Désinstaller :
sudo systemctl disable --now ollama sudo rm /etc/systemd/system/ollama.service sudo rm $(which ollama) sudo rm -r /usr/share/ollama sudo userdel ollama
| Problème | Solution |
|---|---|
| Les réponses sont très lentes | ollama ps : si la part CPU est importante, prenez un modèle plus petit ou une quantification plus forte. Fermez les jeux et logiciels 3D. |
| « Error: could not connect to ollama app » | Le serveur n’est pas lancé : ouvrez l’application Ollama (Windows) ou sudo systemctl start ollama (Linux). |
| Le GPU NVIDIA n’est pas utilisé | Mettez à jour le pilote, redémarrez, vérifiez nvidia-smi. Sous Linux, consultez journalctl -u ollama. |
| Le modèle « oublie » le début du document | Le contexte est trop court : augmentez num_ctx / OLLAMA_CONTEXT_LENGTH. |
| Disque plein | ollama list puis ollama rm sur les modèles inutiles, ou déplacez-les avec OLLAMA_MODELS. |
Ollama : vos questions
Ollama est-il gratuit ?
Oui. Ollama est un logiciel open source sous licence MIT, gratuit pour un usage personnel comme professionnel. Les modèles ont chacun leur propre licence, à vérifier avant un usage commercial.
Faut-il une carte graphique pour utiliser Ollama ?
Non, mais c’est fortement conseillé. Sans GPU, un petit modèle (3 à 4B) reste utilisable sur un processeur récent, mais un modèle de 14B devient très lent. Avec une RTX à 16 Go de VRAM, les réponses s’affichent plus vite que vous ne pouvez les lire.
Mes conversations sont-elles envoyées sur internet ?
Non. Le modèle tourne sur votre machine. Internet ne sert qu’à télécharger les modèles et les mises à jour. Attention : Ollama propose aussi des modèles « cloud » (suffixe -cloud) qui, eux, tournent sur ses serveurs.
Ollama ou LM Studio ?
Ollama est idéal comme moteur en arrière-plan pour d’autres outils (Open WebUI, extensions, automatisations) et sous Linux sans écran. LM Studio est plus simple pour découvrir et tester des modèles avec une interface graphique complète. Beaucoup d’utilisateurs installent les deux.
Ollama fonctionne-t-il avec les cartes AMD ?
Oui, via ROCm, sur les Radeon récentes. La prise en charge est plus mature sous Linux. Les cartes NVIDIA restent la solution la plus simple et la plus rapide pour l’IA locale.
Puis-je utiliser plusieurs cartes graphiques ?
Oui. Ollama répartit automatiquement un modèle trop gros pour une seule carte sur plusieurs GPU, ce qui permet par exemple de faire tourner un 70B sur deux RTX 5090.