Quand quelqu’un dit qu’il fait tourner un LLM en local, il y a de bonnes chances que ce soit avec Ollama. L’outil combine une commande et un service en arrière-plan : donnez-lui un nom de modèle, il télécharge les poids, choisit une quantization adaptée, et sert ce modèle via une API locale sur le port 11434. Pas de compte à créer, pas de clé API, rien qui quitte votre réseau à moins d’aller chercher volontairement son offre cloud optionnelle. Cette fiche sert de référence rapide : ce qu’est vraiment Ollama, sa licence réelle, une installation Docker en une ligne, et les familles de modèles qu’il fait tourner. Pour le dimensionnement matériel et la stack Compose complète, direction notre guide complet Ollama + Open WebUI.
À retenir : Ollama est gratuit et open source sous licence MIT, développé par Ollama Inc., une petite société indépendante sans lien avec Meta malgré un nom qui fait immanquablement penser à Llama. Le projet dépasse les 175 000 étoiles sur GitHub, s’installe nativement sur macOS, Windows et Linux, et propose une image Docker officielle. Aucun abonnement pour un usage local ; l’offre Cloud payante d’Ollama est un produit à part, pour déporter de plus gros modèles sur ses propres serveurs.
Qu’est-ce qu’Ollama ?
Sous le capot, Ollama s’appuie sur llama.cpp, le moteur d’inférence lancé par Georgi Gerganov qui a rendu possible de faire tourner des modèles de langage quantizés sur du matériel ordinaire. Ce qu’Ollama ajoute par-dessus, c’est tout ce que llama.cpp laisse à votre charge : une bibliothèque de modèles consultable, des téléchargements en une commande, un choix de quantization automatique, un serveur qui tourne en permanence, et une API calquée d’assez près sur celle d’OpenAI pour que la plupart des outils existants fonctionnent avec presque aucune modification. C’est en grande partie pour ça qu’Ollama est devenu la réponse par défaut à « comment faire tourner un modèle sur mon propre matériel », devant des outils parfois plus capables mais nettement plus contraignants à configurer. Une précision utile : Ollama lui-même n’a pas de fenêtre de chat, juste une commande et un démon en arrière-plan. Le code source complet est sur GitHub, avec plus de 16 800 forks et 229 versions publiées.
Tourne sur : macOS (Apple Silicon et Intel), Windows 10/11, la plupart des distributions Linux, et Docker sur chacun de ces systèmes. L’accélération GPU couvre NVIDIA via CUDA et AMD via ROCm avec un tag d’image séparé, plus la mémoire unifiée d’Apple Silicon prise en charge automatiquement. Tout fonctionne aussi en CPU seul, juste plus lentement.
Familles de modèles disponibles
La bibliothèque de modèles change en permanence, mais l’ossature reste les familles à poids ouverts que tout ce secteur suit de près : la lignée Llama de Meta (3, 3.1, 3.2, 3.3, 4), Gemma de Google, Qwen d’Alibaba, Mistral et Mixtral, DeepSeek, et GLM de Z.ai, à côté d’une liste de petits nouveaux qui tourne sans arrêt. La description GitHub d’Ollama cite elle-même « Kimi-K2.6, GLM-5.1, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma et d’autres modèles », un bon aperçu de la vitesse à laquelle cette liste évolue. L’échelle est facile à sous-estimer : Llama 3.1 a été téléchargé plus de 116 millions de fois via Ollama à lui seul, Mistral 7B dépasse les 31 millions, et ce ne sont que deux entrées parmi des dizaines de familles et des centaines de variantes taguées. Les tailles proposées vont typiquement de moins d’un milliard de paramètres à plusieurs centaines de milliards, donc ce qui tourne bien chez vous dépend entièrement de votre matériel, pas d’Ollama.
Matériel, en gros : comptez environ 1 Go de RAM ou de VRAM par milliard de paramètres en quantization 8 bits, la moitié en 4 bits. Un modèle de 7 à 8 milliards de paramètres tourne sans problème avec 8 à 16 Go de RAM et sans aucun GPU ; au-delà de 30 milliards, mieux vaut un GPU dédié ou beaucoup de patience. Le détail complet du dimensionnement matériel est dans notre guide complet.
Installation rapide avec Docker
Pour une installation en production avec Open WebUI, Compose et la sécurisation du reverse proxy, direction le guide complet. Pour faire tourner Ollama lui-même dès maintenant :
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollamaCette commande récupère l’image officielle ollama/ollama sur Docker Hub et expose l’API sur le port 11434. Ajoutez --gpus=all à cette commande pour l’accélération NVIDIA ; pour AMD, remplacez le tag par ollama/ollama:rocm et ajoutez les périphériques /dev/kfd et /dev/dri. Ensuite, récupérez et lancez un modèle :
docker exec -it ollama ollama run llama3.2Astuce : cette seconde commande télécharge le modèle au premier lancement et vous dépose directement dans une conversation interactive dans le terminal. Une vraie interface dans le navigateur, avec tout ce qu’il faut pour sécuriser ça avant de l’exposer où que ce soit, est couverte dans le guide complet.
Ollama face aux alternatives
Ollama n’est pas la seule façon de faire tourner des modèles en local, et ce n’est pas toujours le bon choix. LM Studio est la comparaison la plus directe : il habille cette même base llama.cpp d’une interface graphique de bureau, plus accueillante pour qui préfère éviter le terminal, mais plus difficile à faire tourner sans interface sur un serveur, là où Ollama est justement le plus à l’aise. Un cran plus bas, llama.cpp seul donne davantage de contrôle sur la quantization et les options de compilation, au prix de devoir faire à la main tout ce qu’Ollama automatise. GPT4All vise à peu près le même public que LM Studio, avec son propre sélecteur de modèles intégré et un peu moins de souplesse en dessous.
| Ollama | LM Studio | llama.cpp | |
|---|---|---|---|
| Interface | CLI + API REST | Interface graphique de bureau | CLI / bibliothèque |
| Usage serveur sans interface | Conçu pour ça | Limité | Oui |
| Image Docker officielle | Oui | Non | Communautaire uniquement |
| Idéal pour | Serveurs, scripts, self-hosting | Utilisateurs desktop qui veulent une interface | Contrôle bas niveau maximal |
- Image Docker officielle et API REST facile à scripter avec d’autres outils self-hosted
- Téléchargement de modèles en une commande, aucune décision de quantization à prendre soi-même
- Tourne sans interface sur un NAS, un mini PC ou un serveur maison, pas besoin de bureau
- Gratuit, sous licence MIT, fonctionne entièrement hors ligne
- Aucune interface graphique de base ; il vous faudra Open WebUI ou équivalent
- Les choix automatiques de quantization ne sont pas toujours ceux qu’un utilisateur expérimenté choisirait à la main
- L’offre Cloud payante posée juste à côté de l’outil local gratuit peut ressembler à de la vente incitative
- Les configurations multi-GPU demandent plus de réglages manuels que ne le laisse penser l’installation en une ligne
FAQ
Ollama est-il développé par Meta ?
Non. Ollama est développé par Ollama Inc., une société sans lien avec Meta. La ressemblance du nom avec Llama, la famille de modèles de Meta, revient assez souvent pour que l’équipe d’Ollama l’ait déjà adressée publiquement.
Ollama est-il gratuit ?
Le logiciel est gratuit et sous licence MIT, rien n’est verrouillé derrière un paywall pour un usage local. Ollama vend séparément une offre Cloud optionnelle pour de plus gros modèles sur ses propres serveurs, un produit distinct de l’outil couvert ici.
Peut-on faire tourner Ollama chez soi en toute sécurité ?
L’utiliser en local demande les mêmes précautions de base que n’importe quel service self-hosted : gardez-le sur votre réseau local ou derrière un VPN, puisque l’API n’a aucune authentification par défaut. La section sécurité de notre guide complet détaille comment le verrouiller avant de l’exposer où que ce soit.
Faut-il un GPU ?
Non. Ollama tourne très bien en CPU seul pour les petits modèles, juste plus lentement à chaque réponse. Un GPU apporte surtout de la vitesse et de la marge pour les plus gros modèles, ce n’est pas un prérequis pour commencer.
Quelle est la différence entre Ollama et Open WebUI ?
Ollama est le moteur : il télécharge et sert les modèles via une API. Open WebUI est une interface séparée, optionnelle, qui dialogue avec cette API pour vous donner un écran de chat dans le navigateur plutôt qu’une invite de commande. La plupart des gens qui gardent Ollama sur la durée finissent par associer les deux, exactement ce qu’installe notre guide complet.
Pour la vue d’ensemble de ce qui est réaliste à auto-héberger dans ce domaine, direction notre panorama des meilleurs outils d’IA auto-hébergée pour un homelab, ou parcourez tout le reste des contenus IA sur la page catégorie Self-Hosted AI.