Crear, alojar y operar soluciones de IA.

PrivateGPT

Asistente IA documental 100% local — RAG sobre sus archivos, sin nube, sin fuga de datos.

8 GB RAM 2 vCPU Puerto 8080 En validación

En validación

La instalación automática de esta solución está lista y ahora mismo está pasando nuestras pruebas en un servidor real. El pedido se abrirá en cuanto termine la validación.

Stack técnico

DockerPythonOllamaAlmacén de vectores
RAM mínima8 GB
CPU mínima2 vCPU
Puerto por defecto8080
SO compatiblesDistribuciones Linux a elegir

PrivateGPT es una plataforma RAG (Retrieval-Augmented Generation) de código abierto que le permite chatear con sus propios documentos — PDF, DOCX, hojas de cálculo y correos electrónicos — usando un modelo de lenguaje local. PrivateGPT nunca envía sus datos fuera del servidor: la ingestión, la vectorización, el almacenamiento y la inferencia ocurren en su VPS. Alimentado por un almacén de vectores integrado y conectado a cualquier servidor de inferencia compatible con OpenAI (Ollama, llama.cpp, vLLM), le ofrece un pipeline RAG completo bajo su control.

Funcionalidades clave

Pipeline RAG completamente offline — ingestión de PDF, DOCX, TXT y CSV; consultas con su LLM local, sin llamadas a la nube
Citas de fuentes en cada respuesta — fragmento y nombre del archivo en cada respuesta
API compatible con OpenAI en el puerto 8080 — sustitución directa del cliente OpenAI en sus herramientas
Se conecta a cualquier servidor compatible con OpenAI — Ollama, llama.cpp, vLLM o la API real de OpenAI
Almacén de vectores integrado — fragmentación semántica en disco, persistente entre reinicios
Licencia Apache-2.0 — totalmente auditable, sin telemetría, 57 k+ estrellas en GitHub

¿Cuándo usar esta solución?

1

Inteligencia documental legal y RRHH

Suba contratos y expedientes a PrivateGPT. Pregunte sobre cláusulas específicas y obtenga respuestas citadas sin que ningún dato abandone el VPS — conforme con el Artículo 28 del RGPD.

2

Base de conocimiento interna

Indexe la documentación técnica y las notas de reuniones de su equipo. Cada miembro obtiene una interfaz en lenguaje natural con respuestas que apuntan al fragmento fuente exacto.

3

Revisión privada de código y seguridad

Introduzca código fuente o informes de auditoría. Formule preguntas sobre arquitectura sin que ninguna línea de código fuente salga del servidor.

Desplegar PrivateGPT en su VPS

Guía optimizada para los VPS Cloud ServOrbit.

01

Solicite un VPS de ServOrbit

Prevea al menos 8 GB de RAM. Un VPS de 16 GB es la opción cómoda. La máquina se entrega con Ubuntu 24.04 y Docker preinstalado.

02

Despliegue desde el Marketplace

Marketplace → Inteligencia Artificial → PrivateGPT → Desplegar. La pila levanta dos contenedores: PrivateGPT (UI + API en el puerto 8080) y un sidecar Ollama interno. Solo el puerto 8080 está expuesto en el loopback.

03

Descargue su primer modelo

Una vez en marcha: docker exec ollama ollama pull qwen2.5:7b. Para un inicio ligero: qwen2.5:3b (2.3 GB).

04

Abra la interfaz web

Abra un túnel SSH: ssh -L 8080:127.0.0.1:<puerto> root@<ip-vps> y navegue a http://localhost:8080/ui.

05

Ingeste sus documentos

Suba archivos a través de la interfaz o el endpoint /v1/ingest/file. PrivateGPT divide cada archivo, calcula embeddings via Ollama y los almacena en el almacén de vectores local.

06

Consulte su corpus

Escriba su pregunta en el chat. PrivateGPT recupera los fragmentos más relevantes y devuelve una respuesta con los fragmentos fuente citados.

Preguntas frecuentes

No. La inferencia solo con CPU funciona a través de Ollama. Una CPU moderna maneja un modelo 7B Q4_K_M a 2–5 tokens/seg — utilizable para Q&A de documentos.

Crear, alojar y operar soluciones de IA.

PrivateGPT todavía no se puede pedir.

La instalación automática de esta solución está lista y ahora mismo está pasando nuestras pruebas en un servidor real. El pedido se abrirá en cuanto termine la validación.

¿Necesita ayuda?

Consulte nuestro centro de ayuda y nuestra FAQ, o contacte con nuestro equipo: llamada, WhatsApp o correo electrónico. Soporte en francés, inglés y árabe.

Escribir por WhatsAppse abre en una pestaña nueva