Créer, héberger et exploiter des solutions IA.

PrivateGPT

Assistant IA documentaire 100 % local — RAG sur vos fichiers, sans cloud, sans fuite de données.

8 Go RAM 2 vCPU Port 8080 En validation

En validation

L'installation automatique de cette solution est prête et passe actuellement nos tests sur serveur réel. La commande ouvrira dès que la validation sera terminée.

Stack technique

DockerPythonOllamaMagasin de vecteurs
RAM minimum8 Go
CPU minimum2 vCPU
Port par défaut8080
OS compatiblesDistributions Linux au choix

PrivateGPT est une plateforme RAG (Retrieval-Augmented Generation) open source qui vous permet d'interroger vos propres documents — PDF, DOCX, tableurs et e-mails — à l'aide d'un grand modèle de langage local. Contrairement aux assistants IA hébergés dans le cloud, PrivateGPT n'envoie jamais vos données hors du serveur : l'ingestion, la vectorisation, le stockage et l'inférence se déroulent entièrement sur votre VPS ServOrbit. Alimenté par un magasin de vecteurs intégré et connecté à tout serveur d'inférence compatible OpenAI (Ollama, llama.cpp, vLLM), il vous offre un pipeline RAG complet sous votre contrôle.

Déployé sur un VPS ServOrbit avec un sidecar Ollama, PrivateGPT devient un espace de travail IA privé et autonome : téléversez vos contrats, documents techniques ou comptes-rendus de réunions, et interrogez-les en langage naturel. Chaque réponse cite le passage source et le nom du fichier. L'API compatible OpenAI sur le port 8080 vous permet d'intégrer la même intelligence documentaire dans vos outils internes ou de construire des agents personnalisés sur le corpus indexé.

Fonctionnalités clés

Pipeline RAG 100 % hors ligne — ingestion de PDF, DOCX, TXT et CSV ; interrogation via votre LLM local, zéro appel cloud
Citations de sources dans chaque réponse — passage et nom du fichier mentionnés sous chaque réponse
API compatible OpenAI sur le port 8080 — remplacement direct du client OpenAI dans vos outils existants
Compatible avec tout serveur OpenAI — Ollama, llama.cpp, vLLM, ou l'API OpenAI réelle
Magasin de vecteurs intégré — chunking sémantique et embeddings sur disque, persistants entre les redémarrages
Licence Apache-2.0 — entièrement auditable, sans télémétrie, air-gap possible, 57 k+ étoiles GitHub

Quand utiliser cette solution ?

1

Intelligence documentaire juridique et RH

Téléversez vos contrats, accords et dossiers RH dans PrivateGPT. Posez la question « Quelles sont les clauses de résiliation du contrat X ? » et obtenez une réponse citée, sans qu'aucune donnée quitte le VPS — conformément à l'article 28 du RGPD.

2

Base de connaissance interne

Indexez la documentation technique, les runbooks et les comptes-rendus de votre équipe. Chaque membre dispose d'une interface en langage naturel, avec des réponses pointant vers le passage source exact pour vérifier et approfondir.

3

Revue privée de code et de sécurité

Alimentez PrivateGPT avec votre code source propriétaire ou vos rapports d'audit de sécurité. Interrogez l'architecture, repérez les fonctions non documentées ou croisez des descriptions CVE avec votre codebase — sans qu'une seule ligne de code source quitte le serveur.

Déployer PrivateGPT sur votre VPS

Guide optimisé pour les VPS Cloud ServOrbit.

01

Commander un VPS ServOrbit

Prévoyez au minimum 8 Go de RAM : Ollama a besoin de 4 à 6 Go pour un modèle 7B (Q4_K_M), PrivateGPT lui-même consomme environ 500 Mo, et il faut de la marge pour l'ingestion de documents. Un VPS de 16 Go est l'option confortable. La machine est livrée avec Ubuntu 24.04 et Docker préinstallé.

02

Déployer depuis le Marketplace

Dans votre espace client ServOrbit : Marketplace → Intelligence Artificielle → PrivateGPT → Déployer. La pile démarre deux conteneurs : PrivateGPT (interface web + API sur le port 8080, lié à 127.0.0.1) et un sidecar Ollama (interne uniquement, non accessible depuis Internet). Les deux partagent un réseau Docker privé — seul le port 8080 est exposé sur le loopback.

03

Télécharger un premier modèle

Une fois la pile démarrée, téléchargez un modèle de langage dans Ollama via SSH : docker exec ollama ollama pull qwen2.5:7b. Pour un démarrage léger sur 8 Go de RAM, qwen2.5:3b (2,3 Go) est un bon point d'entrée. Pour des réponses plus riches sur des documents longs, mistral:7b ou llama3.1:8b sont recommandés. Pour les embeddings, nomic-embed-text améliore la qualité de la récupération sémantique.

04

Ouvrir l'interface web

L'interface de PrivateGPT est accessible sur http://127.0.0.1:8080/ui (loopback uniquement). Ouvrez un tunnel SSH depuis votre poste : ssh -L 8080:127.0.0.1:<port> root@<ip-vps> (remplacez <port> par le port affiché dans votre espace client), puis accédez à http://localhost:8080/ui dans votre navigateur.

05

Ingérer vos documents

Utilisez le bouton Upload dans l'interface ou le point d'API /v1/ingest/file pour téléverser vos documents. PrivateGPT les découpe en morceaux, calcule les embeddings via Ollama et les stocke dans le magasin de vecteurs local. L'ingestion d'un PDF de 50 pages prend généralement 30 à 90 secondes sur CPU.

06

Interroger votre corpus

Tapez votre question dans le chat. PrivateGPT récupère les morceaux les plus pertinents du magasin de vecteurs, les transmet en contexte au LLM et renvoie une réponse avec les passages sources cités. Le point d'API /v1/chat/completions est compatible OpenAI pour les clients API.

Questions fréquentes

Non. L'inférence CPU seul fonctionne sans configuration particulière via Ollama. Un CPU serveur moderne traite un modèle 7B Q4_K_M à 2–5 tokens/seconde — suffisant pour le Q&A documentaire où la précision prime sur la vitesse. Pour une inférence plus rapide sur des modèles plus grands, un VPS avec GPU accélère le débit de 10 à 30×.

Créer, héberger et exploiter des solutions IA.

PrivateGPT n'est pas encore commandable.

L'installation automatique de cette solution est prête et passe actuellement nos tests sur serveur réel. La commande ouvrira dès que la validation sera terminée.

Besoin d'aide ?

Parcourez notre centre d'aide et notre FAQ, ou contactez notre équipe — rappel, WhatsApp ou e-mail. Support en français, anglais et arabe.

Écrire sur WhatsApps'ouvre dans un nouvel onglet