¿Qué modelos de lenguaje son compatibles?

Ollama para los modelos locales, así como OpenAI, Anthropic, Azure OpenAI, Mistral, Google Gemini, LiteLLM, Cohere, TogetherAI, Groq y Llama.cpp. Puede cambiar de proveedor espacio de trabajo por espacio de trabajo sin perder sus documentos ni su índice.

¿Cuánta RAM hace falta?

AnythingLLM consume unos 512 MB por sí sola. Todo depende después de dónde se ejecute el modelo: si llama a una API externa, 2 GB de RAM son suficientes; si ejecuta Ollama en el mismo VPS con un modelo de 7000 millones de parámetros, prevea 8 GB en total.

¿Soporta la herramienta grandes volúmenes documentales?

Sí. La base vectorial LanceDB integrada llega a varios millones de vectores en un solo VPS, sin configuración. Para corpus realmente voluminosos, puede cambiar la base vectorial por Qdrant, Pinecone o Weaviate desde Settings → Vector DB, sin modificar el resto de la instalación.

Crear, alojar y operar soluciones de IA.

AnythingLLM

Espacio de trabajo de IA privado: sus documentos forman una base de conocimiento consultable, con RAG integrado, agentes sin código y el modelo de lenguaje que elija.

512 MB (2 GB o más con Ollama en local) RAM 1 vCPU Puerto 3001 Disponible

Código fuente

Stack técnico

DockerNode.jsPythonSQLiteLanceDB

RAM mínima512 MB (2 GB o más con Ollama en local)

CPU mínima1 vCPU

Puerto por defecto3001

SO compatiblesubuntu-24.04

AnythingLLM es una aplicación de IA de código abierto todo en uno que convierte sus documentos en una base de conocimiento privada y consultable. Cabe en una sola imagen Docker, funciona en un VPS de 2 GB y se conecta al modelo que usted ya utiliza: Ollama en local, OpenAI, Anthropic, Mistral, Azure OpenAI, LiteLLM y otros. El motor de RAG integrado ingiere PDF, documentos de Word, texto plano, repositorios de código, transcripciones de YouTube, páginas de Notion y espacios de Confluence, y a continuación los fragmenta, los vectoriza y los indexa en una base vectorial LanceDB integrada. En cada pregunta, AnythingLLM recupera los pasajes pertinentes, los transmite como contexto a su modelo y devuelve una respuesta con fuentes.

Cada espacio de trabajo está aislado: sus propios documentos, su propio modelo, su propia instrucción de sistema, algo práctico para separar la documentación de producto, los contratos y el código. AnythingLLM incorpora además un constructor de agentes sin código, que encadena búsqueda web, ejecución de código, recuperación documental y llamadas a API externas. La gestión multiusuario con roles (administrador, gestor, usuario) la hace utilizable en equipo, y una API REST documentada permite integrar el motor en sus propios productos. El proyecto se publica bajo licencia MIT, con más de 62 000 estrellas en GitHub en julio de 2026, sin telemetría y utilizable en un entorno totalmente desconectado de Internet.

Funcionalidades clave

RAG integrado — ingesta de PDF, documentos de Word, archivos de texto, repositorios de código, YouTube, Confluence y Notion, con fragmentación, vectorización e indexación automáticas.

Compatible con todos los modelos — Ollama, OpenAI, Anthropic, Mistral, Azure OpenAI, Google Gemini, LiteLLM, Cohere, TogetherAI, Groq, Llama.cpp y los modelos locales.

Constructor de agentes sin código — encadene búsqueda web, ejecución de código, recuperación documental y llamadas a API sin escribir una sola línea.

Espacios de trabajo aislados — los documentos, el modelo y la instrucción de sistema son propios de cada espacio, lo que evita las fugas de contexto entre temas.

Multiusuario con roles de administrador, gestor y usuario — utilizable en equipo desde la instalación.

Base vectorial intercambiable — LanceDB integrada sin configuración, o conexión a Qdrant, Pinecone, Chroma o Weaviate; API REST documentada para integrar el motor en sus aplicaciones.

¿Cuándo usar esta solución?

1

Base de conocimiento interna

Suba sus procedimientos, sus contratos y su documentación técnica. Su equipo formula sus preguntas en lenguaje natural y obtiene respuestas con fuentes, con remisión a los pasajes de origen. Si el modelo lo sirve Ollama en el mismo VPS, ningún dato sale de su servidor.

2

Asistente para desarrolladores

Ingiera su base de código, sus documentos de arquitectura y sus referencias de API. AnythingLLM se convierte en un asistente privado que conoce su stack y responde en contexto, sin exponer su código fuente a un servicio de terceros.

3

IA orientada al cliente

Exponga la API REST de AnythingLLM para alimentar un módulo de chat en su producto, respaldado exclusivamente por su propia documentación. Usted controla lo que el modelo tiene derecho a citar, y el contenido indexado sigue alojado en su propio servidor.

Desplegar AnythingLLM en su VPS

Guía optimizada para los VPS Cloud ServOrbit.

01

Pedir un VPS ServOrbit

AnythingLLM en sí misma se conforma con unos 512 MB de RAM. El dimensionamiento depende del modelo: con una API externa (OpenAI, Anthropic, Mistral), 2 GB bastan de sobra; con Ollama instalado en el mismo VPS y un modelo de 7000 millones de parámetros, cuente con 8 GB en total. Prevea espacio en disco para sus documentos y sus vectores.

02

Desplegar desde el Marketplace

En su área de cliente ServOrbit: Marketplace → IA → AnythingLLM → Desplegar. La imagen mintplexlabs/anythingllm:latest (unos 700 MB) se descarga una sola vez y el contenedor arranca en unos segundos en el puerto 3001. El volumen con nombre anythingllm-storage conserva el conjunto de los documentos, los ajustes y la base SQLite.

03

Conectarse por primera vez

No hay ninguna credencial que entregarle: esta instalación arranca en modo monousuario SIN contraseña. Ábrala de inmediato, termine el asistente de configuración y vaya después a Ajustes para activar «Password Protect Instance» — antes de eso, cualquiera que alcance la dirección puede leer sus documentos y cambiar sus ajustes.

04

Crear la cuenta de administrador en el primer acceso

AnythingLLM no admite ningún dominio, y es deliberado: recién instalado no tiene NINGUNA cuenta y, por tanto, ninguna pantalla de inicio de sesión — publicarlo tras una dirección pública sería entregar la creación del primer administrador al primer visitante que llegue. El acceso se realiza mediante un túnel SSH: ssh -L 3001:127.0.0.1:3001 root@<ip-de-su-vps> y luego http://localhost:3001 — 3001 es el puerto del catálogo, utilice el que aparece en la ficha de su aplicación en el área de cliente. AnythingLLM detecta una instalación nueva y le guía en la creación de la primera cuenta de administrador; es también en ese momento cuando se fija el secreto JWT que sirve para firmar todas las sesiones de usuario.

05

Conectar un proveedor de modelos

Vaya a Settings → LLM Provider. Elija Ollama si se ejecuta en el mismo VPS, OpenAI indicando su clave de API, o cualquier otro proveedor compatible. AnythingLLM prueba la conexión antes de guardar. Si lo apunta a LiteLLM, podrá cambiar de proveedor más adelante sin retocar sus espacios de trabajo.

06

Crear un espacio de trabajo y subir sus documentos

Haga clic en New Workspace, póngale un nombre (por ejemplo «Documentación de producto») y después suelte ahí sus PDF o pegue una URL. AnythingLLM fragmenta el contenido, calcula los vectores y los guarda en LanceDB. Formule su primera pregunta: el sistema recupera los pasajes pertinentes y los transmite a su modelo. Cree a continuación las cuentas de su equipo y asigne los roles.

Preguntas frecuentes

AnythingLLM es un espacio de trabajo de IA autoalojado que reúne en un solo contenedor el RAG documental, el chat multimodelo y los agentes. Open WebUI es ante todo una interfaz de chat para sus modelos, orientada a la conversación; Dify es una plataforma visual para construir aplicaciones LLM y pipelines destinados a otros usuarios. AnythingLLM se sitúa entre ambas: su punto de entrada es su corpus documental, organizado en espacios de trabajo aislados y consultable con citas.

No, y tampoco es posible asociarle uno. AnythingLLM arranca sin ninguna cuenta: el primer visitante que alcanza la aplicación se convierte en su administrador. Mientras esa toma de control inicial no esté protegida por nada, ServOrbit no publica la aplicación tras un dominio — el acceso pasa por un túnel SSH (ssh -L 3001:127.0.0.1:3001 root@<ip-de-su-vps>), es decir, cifrado y reservado a quien posee la clave SSH del VPS. Una vez creada su cuenta de administrador y activado el modo multiusuario, la aplicación sí tiene una pantalla de inicio de sesión real: entonces la receta podrá volver a publicarse con dominio.

La versión autoalojada se publica bajo licencia MIT y es totalmente gratuita; Mintplex Labs ofrece además un plan alojado y una aplicación de escritorio, pero todo lo necesario para un despliegue privado se encuentra en la imagen Docker de código abierto. Documentos, vectores, ajustes y base SQLite residen en el volumen anythingllm-storage de su VPS; el proyecto no emite ninguna telemetría y funciona incluso en una máquina desconectada de Internet, siempre que se utilice un modelo local.

Integrar el botón de despliegue

¿Mantiene un proyecto que utiliza AnythingLLM? Este botón permite a sus lectores desplegarlo en un VPS con un clic, sin leer documentación de Docker.

Markdown

[![Deploy AnythingLLM on ServOrbit](https://servorbit.com/brand/deploy/button.svg)](https://servorbit.com/vps-cloud?template=anything-llm&utm_source=deploy-badge&utm_medium=referral&utm_campaign=anything-llm)

HTML

<a href="https://servorbit.com/vps-cloud?template=anything-llm&utm_source=deploy-badge&utm_medium=referral&utm_campaign=anything-llm"><img src="https://servorbit.com/brand/deploy/button.svg" alt="Deploy AnythingLLM on ServOrbit" height="40"></a>

El botón lleva al pedido de un VPS con la plantilla preseleccionada. La imagen se sirve desde servorbit.com: no tiene que alojar nada por su parte.

Soluciones complementarias

Inteligencia Artificial

Active AnythingLLM en su infraestructura.

VPS Cloud dedicado: IPv4 incluida, centro de datos europeo, soporte incluido. Sus datos nunca salen de su servidor.

Configuración recomendada: 512 MB (2 GB o más con Ollama en local) RAM · 1 vCPU