Pourquoi self-héberger Ollama sur un VPS
Ollama n'est pas une interface mais un moteur d'inférence : il télécharge des modèles quantisés et les sert via une API REST locale, avec un endpoint compatible OpenAI (/v1/chat/completions). L'intérêt d'un VPS dédié est double. D'abord le coût : un VPS à prix fixe remplace une facture d'API qui explose avec le volume. Ensuite la confidentialité : vos prompts ne quittent jamais le serveur, ce qui est décisif pour traiter des données réglementées. Ollama devient le backend LLM partagé de toute votre stack, que vous branchez sur AnythingLLM, Flowise, LibreChat ou vos propres scripts, en remplaçant simplement l'URL de base par celle de votre VPS.
Les bénéfices concrets d'un Ollama auto-hébergé
- Coût d'inférence fixe : plus de facturation au token, quel que soit le volume de requêtes.
- API compatible OpenAI : vous remplacez l'URL de base sans réécrire votre code client.
- Confidentialité absolue, les prompts et réponses restent sur votre infrastructure.
- Choix et basculement libre entre dizaines de modèles via
ollama pull. - Backend LLM unique mutualisé entre tous vos outils IA self-hébergés.
- Fonctionnement hors ligne possible, sans dépendance à un service externe.
Prérequis matériels et logiciels
Ollama est le plus exigeant en RAM de cette liste, car le modèle doit tenir en mémoire. Un modèle 7B quantisé (Q4) demande environ 5 à 6 Go de RAM ; comptez donc 8 Go de RAM minimum pour confortablement servir un 7B/8B en CPU, et 16 Go pour des modèles plus grands ou plusieurs modèles chargés. En CPU pur, la génération reste lente : pour de la production réactive, un VPS avec GPU change radicalement la donne. Prévoyez 20 à 40 Go de disque selon le nombre de modèles téléchargés. Docker recommandé, plus un sous-domaine (ex. api-ia.votre-domaine.ma) et le port 443.
Déployer Ollama avec Docker et une API sécurisée
Installer Ollama en conteneur
Lancez docker run -d -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 --name ollama ollama/ollama. Le binding sur 127.0.0.1 est volontaire : l'API ne doit jamais être exposée directement, car elle est non authentifiée par défaut.
Télécharger un modèle
Récupérez un modèle avec docker exec -it ollama ollama pull llama3.1:8b (ou mistral, qwen2.5). Testez en local : docker exec -it ollama ollama run llama3.1:8b 'Bonjour'.
Vérifier l'API locale
Appelez l'endpoint : curl http://127.0.0.1:11434/api/generate -d '{"model":"llama3.1:8b","prompt":"test"}'. Confirmez que la réponse arrive en streaming.
Ajouter une couche d'authentification au proxy
Comme Ollama n'a pas d'auth native, placez un reverse proxy devant. Avec Caddy, exposez api-ia.votre-domaine.ma, ajoutez une vérification de jeton (header Authorization) via une directive, puis reverse_proxy localhost:11434. Let's Encrypt gère le TLS.
Verrouiller le firewall
Avec UFW, n'autorisez que 443 (et 22) en entrée, et bloquez explicitement le 11434 externe. Vérifiez depuis l'extérieur que https://api-ia.votre-domaine.ma exige bien le jeton.
Brancher vos applications
Dans vos clients (SDK OpenAI, Flowise, LibreChat), pointez la base URL sur https://api-ia.votre-domaine.ma/v1 et passez votre jeton. Vos appels existants fonctionnent sans autre modification.
Sur un VPS CPU, la première requête après une période d'inactivité est lente car le modèle est rechargé en mémoire. Maintenez-le résident en réglant OLLAMA_KEEP_ALIVE=-1, et limitez le nombre de modèles concurrents avec OLLAMA_MAX_LOADED_MODELS=1 pour éviter de saturer la RAM. Privilégiez les quantisations Q4_K_M : le meilleur compromis vitesse/qualité sur processeur.
La documentation officielle
Pour la configuration avancée et les options propres à l'outil, référez-vous à la documentation officielle de Ollama. Ce guide couvre la mise en ligne sur VPS ; la doc éditeur reste la référence pour les réglages fins, les mises à jour majeures et les cas d'usage spécifiques.
