لماذا تحتاج تطبيقات LLM إلى مراقبة مخصّصة
أدوات APM التقليدية (Datadog وNew Relic) تلتقط كمون HTTP ومعدلات الأخطاء — لكنها عمياء أمام ما يحدث داخل استدعاء LLM. استجابة تصل في 800 ميلي ثانية قد تكون لا تزال خاطئة واقعيًا، أو مبهمة بلا فائدة، أو ثلاثة أضعاف تكلفة استجابة الأمس لأن انتكاسة prompt تسللت دون أن يلاحظها أحد في مراجعة الكود. يحلّ Langfuse هذه المشكلة بمعاملة كل تفاعل مع LLM باعتباره trace منظّمًا: يسجّل الـ prompt الكامل (بما في ذلك رسالة النظام وتاريخ المحادثة) والاستجابة والنموذج المستخدم وعدد الرموز وتفصيل الكمون لكل نطاق وأي درجات تقييم يُرفقها فريقك. يمكنك بعد ذلك تصفية أي trace ومقارنته واستنساخه — بشكل فردي أو مجمّع.
ما يمنحك Langfuse جاهزًا فور التثبيت
- تتبّع LLM كامل: الـ prompt والاستجابة والكمون والتكلفة وعدد الرموز — بما في ذلك النطاقات المتداخلة لسلاسل الوكلاء (LangChain وLlamaIndex وDify).
- مركز إدارة الـ prompts: إدارة نسخها، وتدريج المتغيرات، واختبار A/B في الإنتاج، وترويج الفائز دون نشر كود.
- إطار تقييم: تشغيل LLM-as-a-judge، وطوابير تعليق بشرية، أو دوال تسجيل مخصّصة على أي trace أو مجموعة بيانات.
- تحليلات التكلفة: تتبّع إنفاق الرموز حسب النموذج والنقطة الطرفية والمستخدم والجلسة — التبديل بين المزوّدين بناءً على بيانات.
- إدارة مجموعات البيانات: التقاط traces الإنتاج كمجموعات اختبار ذهبية للتقييم غير المتصل.
- SDK أصلي لـ Python وTypeScript، مع تكامل تلقائي مع LiteLLM وLangChain وLlamaIndex وDify وHaystack وVercelAI.
ما يعمل عليه Langfuse (ولماذا يحتاج 4 GB من الذاكرة)
يأتي Langfuse v3 كـ stack Docker Compose من ستة خدمات: langfuse (واجهة Next.js الأمامية + API) وlangfuse-worker (وظائف الخلفية والتقييمات) وpostgres (حالة التطبيق) وclickhouse (تحليلات traces — تخزين عمودي محسَّن للسلاسل الزمنية عالية الكثافة) وredis (قائمة انتظار وذاكرة تخزين مؤقت) وminio (تخزين كائنات متوافق مع S3 لمرفقات الوسائط). ClickHouse هو سبب الحدّ الأدنى البالغ 4 GB: يحتاج مُترجمه JIT ومحرّك التنفيذ المتجهي إلى مساحة كافية. في الخادم الهادئ تستهلك المجموعة الكاملة نحو 1.5-2 GB في وضع الخمول؛ لحركة مرور إنتاجية معتدلة خطّط لـ 4 GB، ومع 8 GB للتتبّع المستمر عالي الإنتاجية.
نشر Langfuse على خادم VPS في ست خطوات
اطلب خادم ServOrbit VPS (4 GB RAM كحدّ أدنى)
يناسب أي خطة Ubuntu 24.04 بـ 4 GB أو أكثر. يُوصى بخطة 8 GB إذا كنت تخطّط لتشغيل حركة مرور إنتاجية مستمرة. اختر نطاقًا أو نطاقًا فرعيًا تتحكم فيه — ملفات تعريف ارتباط جلسة NextAuth تتطلب نطاق HTTPS صحيحًا.
تثبيت بنقرة واحدة من السوق
افتح لوحة تحكم ServOrbit، انتقل إلى Marketplace → AI & LLM Tools → Langfuse، وانقر "نشر". أدخل نطاقك عند المطالبة. يسحب Docker Compose جميع الصور الست ويشغّلها؛ واجهة الويب جاهزة على المنفذ 3000 خلال 60-90 ثانية.
افتح واجهة الويب وأنشئ مشروعك الأول
انتقل إلى https://your-domain.com. يعرض Langfuse شاشة التسجيل عند التشغيل الأول. أنشئ حسابك الإداري، ثم اذهب إلى Settings → Projects → Create project. انسخ المفتاح العام والمفتاح السري من إعدادات المشروع.
قِس تطبيق Python أو TypeScript الخاص بك
في Python: pip install langfuse، اضبط LANGFUSE_HOST=https://your-domain.com وLANGFUSE_PUBLIC_KEY وLANGFUSE_SECRET_KEY، ثم زيّن استدعاءات LLM بـ @observe(). في TypeScript: npm install langfuse، هيّئه بمضيفك ومفاتيحك. تظهر traces في اللوحة خلال ثوانٍ.
فعّل التتبّع التلقائي إذا كنت تستخدم LiteLLM
إذا كان LiteLLM موجودًا في stack: أضف success_callback = ["langfuse"] إلى litellm_config.yaml واضبط متغيرات البيئة الثلاثة. كل استدعاء LLM proxied يُتتبَّع تلقائيًا بتفاصيل التكلفة والرموز.
شغّل تقييمك الأول
اذهب إلى Traces، صفّ عيّنة تمثيلية، انقر 'Add to dataset'. افتح Datasets → مجموعتك → Run evaluation، اختر LLM-as-a-judge مع قالب prompt ('قيّم ملاءمة هذه الاستجابة من 1 إلى 5')، وأرسل.
أول تسجيل دخول
يفتح الرابط شاشة Langfuse مع رابط «Sign up»: أنشئوا حسابكم، ثم أنشئوا مؤسستكم ومشروعكم الأول عبر المعالج.
اقرنه مع LiteLLM للرؤية الكاملة لتكاليف الذكاء الاصطناعي
يتضمّن stack ServOrbit AI بالفعل LiteLLM كبوابة متوافقة مع OpenAI. ربط Langfuse بـ LiteLLM بثلاثة متغيرات بيئة يمنحك صورة كاملة: LiteLLM يفرض حدود المعدل ويوجّه بين المزوّدين؛ Langfuse يسجّل كل trace بالـ prompt الكامل والاستجابة والنموذج والرموز والتكلفة. معًا يمنحانك طبقة عمليات ذكاء اصطناعي خاصة وقابلة للتدقيق.
Langfuse مقابل Langsmith وHelicone
Langsmith (منتج LangChain المستضاف) وHelicone هما البدائل السحابية الرئيسية. كلاهما ممتاز — وكلاهما يتطلب توجيه traces الخاصة بك عبر خوادمهما. للفرق التي تتعامل مع prompts حساسة (قانونية، مالية، طبية)، أو لبيئات الامتثال التي تحظر تسرّب بيانات الطرف الثالث، الاستضافة الذاتية ليست خيارًا. Langfuse يمنحك نفس مجموعة الميزات على بنية تحتية تتحكم فيها.
