AnythingLLM en VPS: guía completa con trampas a evitar

Por qué autoalojar AnythingLLM en un VPS

Las ventajas concretas de un AnythingLLM autoalojado

• Documentos confidenciales indexados localmente, nunca enviados a un servicio de ingesta externo.
• Espacios de trabajo compartimentados por cliente o por equipo, con gestión detallada de los roles (Administrador, Manager, Standard).
• Base vectorial a elegir: LanceDB integrado para empezar, Chroma o Qdrant externo para los corpus grandes.
• Conexión a más de 20 proveedores de LLM, incluido un Ollama local para cero nube y cero coste de inferencia.
• Ningún límite en el número de documentos, de páginas o de espacios de trabajo ingeridos.
• Copia de seguridad simple y portátil: todo el estado cabe en un único volumen storage que archivar o replicar.
• Agentes de IA no-code integrados: cree canalizaciones de automatización sin salir de la interfaz.
• API REST completa para integrar AnythingLLM en sus propias aplicaciones o scripts de automatización.

Requisitos de hardware y software

Desplegar AnythingLLM con Docker y HTTPS

1. 01

   Crear la estructura de directorios y los permisos

   Por SSH en su VPS, cree el directorio de trabajo y el volumen de datos:

   mkdir -p /opt/anythingllm/storage
   cd /opt/anythingllm
   chmod -R 777 storage

   El contenedor se ejecuta con un UID dedicado (no root): los permisos 777 sobre storage son necesarios para que el proceso interno pueda escribir la base vectorial y las cargas de documentos.

2. 02

   Escribir el docker-compose.yml con una versión fijada

   Cree /opt/anythingllm/docker-compose.yml. Fíjese en la etiqueta de versión fija — no ponga :latest:

   services:
     anythingllm:
       image: mintplexlabs/anythingllm:v1.8.4
       container_name: anythingllm
       restart: unless-stopped
       ports:
         - "3001:3001"
       volumes:
         - ./storage:/app/server/storage
       env_file:
         - .env
       cap_add:
         - SYS_ADMIN

   Luego cree .env en la misma carpeta con al menos:

   JWT_SECRET=changez-moi-par-une-chaine-aleatoire-longue
   STORAGE_DIR=/app/server/storage
   LLM_PROVIDER=openai
   OPEN_AI_KEY=sk-votre-cle-openai

   Sustituya LLM_PROVIDER y la clave según su proveedor. Para Ollama local, vea el paso siguiente.

3. 03

   Configurar Ollama si opta por el 100 % local

   Si Ollama se ejecuta en el mismo host que el contenedor AnythingLLM, no utilice localhost — desde dentro del contenedor, localhost designa al propio contenedor, no al host.

   URL correcta según el sistema operativo:
   - Linux: http://172.17.0.1:11434 (dirección del bridge Docker por defecto)
   - macOS / Windows: http://host.docker.internal:11434

   En su .env:

   LLM_PROVIDER=ollama
   OLLAMA_BASE_PATH=http://172.17.0.1:11434
   OLLAMA_MODEL_PREF=llama3.2
   EMBEDDING_ENGINE=ollama
   EMBEDDING_BASE_PATH=http://172.17.0.1:11434
   EMBEDDING_MODEL_PREF=nomic-embed-text

   Compruebe que Ollama escucha realmente en 0.0.0.0 (no solo en 127.0.0.1) verificando OLLAMA_HOST=0.0.0.0 en su unidad systemd o en su variable de entorno.

4. 04

   Arrancar el contenedor y crear la cuenta de administrador

   Lance el servicio:

   docker compose up -d
   docker compose logs -f

   Espere las líneas [server] Listening on port 3001 y [database] Migration complete. Luego acceda a http://votre-ip:3001 desde su equipo (acceso temporal, que conviene cortar tras configurar el reverse proxy). El asistente de configuración le guía para crear la cuenta de administrador y elegir el modelo de incrustación y el LLM.

5. 05

   Poner en marcha el reverse proxy con HTTPS

   Con Nginx (ejemplo mínimo) o Caddy, exponga AnythingLLM detrás de su dominio.

   Ejemplo Caddy (el más simple, Let's Encrypt automático):

   chat.votre-domaine.com {
       reverse_proxy localhost:3001
       request_body {
           max_size 100MB
       }
   }

   Ejemplo Nginx (bloque server):

   server {
       listen 443 ssl;
       server_name chat.votre-domaine.com;
       ssl_certificate /etc/letsencrypt/live/chat.votre-domaine.com/fullchain.pem;
       ssl_certificate_key /etc/letsencrypt/live/chat.votre-domaine.com/privkey.pem;
       client_max_body_size 100M;
       location / {
           proxy_pass http://127.0.0.1:3001;
           proxy_set_header Host $host;
           proxy_set_header Upgrade $http_upgrade;
           proxy_set_header Connection "upgrade";
       }
   }

   La directiva client_max_body_size (Nginx) o max_size (Caddy) es imprescindible para permitir la carga de PDF grandes o de archivos comprimidos de documentos.

6. 06

   Crear un espacio de trabajo, ingerir documentos y probar

   En la interfaz, haga clic en «+ Nuevo espacio de trabajo», dele un nombre y luego arrastre algunos PDF a la zona de carga. Lance la incrustación (botón «Guardar e incrustar»). Una vez terminado, formule una pregunta en el chat — las respuestas deben citar las fuentes extraídas de sus archivos.

   Si las citas no aparecen, compruebe en los ajustes del espacio de trabajo que el modo RAG está bien activado (opción «Chat mode» → «Query») y que el número de fragmentos devueltos es superior a 0.

7. 07

   Activar el modo multiusuario y asegurar el acceso

   En Ajustes → Multi-User Mode, active el modo multiusuario. Invite a sus colaboradores por correo electrónico y asigne los roles: Administrador (acceso total), Manager (gestión de los espacios de trabajo), Standard (solo uso).

   Restrinja cada usuario únicamente a los espacios de trabajo que le conciernen. Desde la interfaz de administración también puede configurar un SSO o una autenticación externa si su proveedor de LLM lo admite.

Solución de problemas: las tres trampas más frecuentes

AnythingLLM vs Open WebUI: ¿qué espacio de trabajo de IA elegir?

Desplace la tabla