Langfuse

Langfuse es una plataforma de observabilidad de código abierto para aplicaciones basadas en modelos de lenguaje. Ofrece una visibilidad detallada de cada llamada de IA que realiza su aplicación: traza completa del prompt y de la respuesta, desglose de las latencias, seguimiento del costo por modelo y por usuario, y puntuaciones de evaluación estructuradas, reunidos en un único panel de control. Mientras que una herramienta de monitoreo de infraestructura le dice que el servidor funciona bien, Langfuse le dice lo que su modelo respondió realmente, cuánto costó y si la calidad se ha degradado desde la última versión del prompt.

Desplegado en su VPS, Langfuse sustituye a los servicios alojados equivalentes (Langsmith, Helicone, Arize) sin transmitir sus trazas ni los datos de sus usuarios a terceros. Basta una sola llamada del SDK para instrumentar una pila Python, TypeScript o compatible con OpenAI — decorador `@observe()` o `langfuse.trace()` — y las integraciones LiteLLM, LangChain, LlamaIndex y Dify emiten sus trazas automáticamente. La versión 3.x, cuyo núcleo se publica bajo licencia MIT, añade un centro de gestión de prompts: sus ingenieros comparan variantes, lanzan evaluaciones mediante juez LLM o mediante anotación humana, y promueven la versión ganadora a producción sin volver a desplegar el código. Una API REST y un SDK web completan el conjunto.