Pourquoi self-héberger LocalAI sur un VPS
Là où Ollama se concentre sur le texte, LocalAI vise la compatibilité large avec l'API OpenAI : il expose /v1/chat/completions, /v1/embeddings, /v1/images/generations et même la transcription audio, sur une seule API. Pour une équipe qui a déjà du code écrit contre le SDK OpenAI, LocalAI est un remplacement quasi transparent : vous changez l'URL de base et la clé, le reste fonctionne. Sur un VPS, vous obtenez cette polyvalence sans dépendance externe ni coût par appel. C'est particulièrement pertinent quand vous avez besoin à la fois de génération de texte, de vecteurs pour du RAG et, ponctuellement, d'images, sans multiplier les fournisseurs et les clés.
Les bénéfices concrets d'un LocalAI auto-hébergé
- Remplacement drop-in de l'API OpenAI : aucune réécriture du code client.
- Une seule API pour le chat, les embeddings, les images et l'audio.
- Support de multiples backends (llama.cpp, diffusers, whisper) sous une interface unifiée.
- Formats de modèles ouverts (GGUF) téléchargeables et interchangeables.
- Pas de facturation à l'usage : un coût VPS fixe pour tous les types de génération.
- Données et générations conservées intégralement sur votre serveur.
Prérequis matériels et logiciels
LocalAI étant polyvalent, ses besoins dépendent des fonctions activées. Pour du chat 7B et des embeddings en CPU, visez 8 Go de RAM et 4 vCPU. Si vous activez la génération d'images (Stable Diffusion) ou l'audio, la charge grimpe nettement et un VPS avec GPU devient fortement recommandé. Le disque est un point clé : les modèles GGUF et de diffusion pèsent lourd, prévoyez 30 à 50 Go. Docker et Docker Compose sont requis, ainsi qu'un sous-domaine (ex. ia.votre-domaine.ma) et le port 443. Préparez la liste des modèles à charger selon vos usages.
Déployer LocalAI avec Docker et HTTPS
Préparer le dossier de modèles
En SSH : mkdir -p /opt/localai/models && cd /opt/localai. Ce dossier models sera monté dans le conteneur et contiendra vos fichiers GGUF et configurations YAML.
Lancer le conteneur LocalAI
Utilisez l'image officielle, par exemple docker run -d -p 127.0.0.1:8080:8080 -v $PWD/models:/models --name localai localai/localai. Choisissez le tag correspondant à votre matériel (CPU ou GPU).
Installer un modèle via la galerie
LocalAI fournit une galerie : curl http://127.0.0.1:8080/models/apply -d '{"id":"..."}', ou déposez manuellement un GGUF dans models/ avec son YAML de config. Listez ensuite via curl http://127.0.0.1:8080/v1/models.
Tester la compatibilité OpenAI
Validez avec un appel chat : curl http://127.0.0.1:8080/v1/chat/completions -d '{"model":"...","messages":[{"role":"user","content":"test"}]}'. Testez aussi /v1/embeddings si vous prévoyez du RAG.
Configurer le reverse proxy et le SSL
Routez ia.votre-domaine.ma vers localhost:8080 via Caddy ou Nginx, avec Let's Encrypt. Ajoutez une protection par jeton car LocalAI n'impose pas de clé par défaut sur un déploiement nu.
Migrer vos applications
Dans vos clients OpenAI, changez la base URL en https://ia.votre-domaine.ma/v1 et la clé par votre jeton. Les appels chat, embeddings et images basculent sur votre infrastructure.
N'activez que les backends dont vous avez besoin. Charger simultanément un modèle de chat, un modèle d'embedding et Stable Diffusion sur un VPS CPU sature la RAM et effondre les performances. Définissez SINGLE_ACTIVE_BACKEND=true pour ne garder qu'un backend résident à la fois, et réservez la génération d'images à un VPS GPU si elle devient un usage régulier.
