LibreChatLangfuse İzleme
Bu belge, yapay zeka konuşmalarınızda tam gözlemlenebilirlik elde etmek için Langfuse izlemeyi LibreChat ile nasıl entegre edeceğinizi açıklar.
Langfuse, LLM uygulamalarınızı izlemenize, takip etmenize ve hata ayıklamanıza yardımcı olan açık kaynaklı bir LLM gözlemlenebilirlik platformudur. Langfuse'u LibreChat ile entegre ederek, yapay zeka konuşmalarınız üzerinde tam görünürlük elde edersiniz.
Ön Koşullar
Başlamadan önce şunlara sahip olduğunuzdan emin olun:
- Çalışan bir LibreChat örneği (bkz. Hızlı Başlangıç)
- Bir Langfuse hesabı (ücretsiz kaydolun)
- Proje ayarlarınızdan Langfuse API anahtarları
Kurulum
LibreChat kurulum dizininizdeki .env dosyasına aşağıdaki Langfuse ile ilgili ortam değişkenlerini ekleyin:
| Key | Type | Description | Example |
|---|---|---|---|
| LANGFUSE_PUBLIC_KEY | string | Langfuse genel anahtarınız. | LANGFUSE_PUBLIC_KEY=pk-lf-*** |
| LANGFUSE_SECRET_KEY | string | Langfuse gizli anahtarınız. | LANGFUSE_SECRET_KEY=sk-lf-*** |
| LANGFUSE_BASE_URL | string | Langfuse API temel URL'si. | LANGFUSE_BASE_URL=https://cloud.langfuse.com |
Örnek Yapılandırma
# Langfuse Configuration
LANGFUSE_PUBLIC_KEY=pk-lf-***
LANGFUSE_SECRET_KEY=sk-lf-***
# 🇪🇺 EU Data Region
LANGFUSE_BASE_URL=https://cloud.langfuse.com
# 🇺🇸 US Data Region
# LANGFUSE_BASE_URL=https://us.cloud.langfuse.comKendi Sunucunuzda Barındırılan Langfuse
Kendi kendine barındırılan Langfuse örnekleri için LANGFUSE_BASE_URL değerini özel URL'nize ayarlayın (örneğin, yerel geliştirme için http://localhost:3000).
LibreChat'i Yeniden Başlatın
Ortam değişkenlerini ekledikten sonra, değişiklikleri uygulamak için LibreChat örneğinizi yeniden başlatın:
docker compose down
docker compose up -dLangfuse'da İzleri (Traces) Görüntüleyin
LibreChat, Langfuse yapılandırılmış şekilde yeniden başlatıldığında, Langfuse arayüzünde her sohbet mesajı yanıtı için yeni bir izleme (trace) göreceksiniz:
Langfuse arayüzündeki izleme bağlantısı
Mesaj Geri Bildirim Puanları
Langfuse izleme yapılandırıldığında, LibreChat ayrıca mesaj geri bildirimlerini eşleşen iz üzerinde bir user-feedback BOOLEAN puanı olarak Langfuse'a gönderir. Beğenme (thumbs-up) derecelendirmesi 1 olarak, beğenmeme (thumbs-down) derecelendirmesi 0 olarak gönderilir ve seçilen herhangi bir geri bildirim etiketi veya yorum puana dahil edilir. Geri bildirimi temizlemek, puanı siler.
Geri bildirim puanları, mevcut olduğunda mesaj kimliği, üst mesaj kimliği, konuşma/oturum kimliği, kullanıcı kimliği, endpoint, gönderen, isCreatedByUser, token sayısı, derecelendirme ve geri bildirim etiketi dahil olmak üzere mesaj bağlamı meta verilerini içerir. Boş meta veri değerleri, puan gönderilmeden önce çıkarılır.
Geri bildirim puanları, izleme (tracing) ile aynı Langfuse kimlik bilgilerini ve temel URL'yi kullanır. Ayrıca LANGFUSE_TRACING_ENABLED=false, LANGFUSE_SAMPLE_RATE=0 ve LANGFUSE_TRACING_ENVIRONMENT ayarlarını dikkate alırlar. Puan iletimi "en iyi çaba" (best-effort) esasına dayanır, bu nedenle Langfuse geçici olarak kullanılamadığında geri bildirim arayüzü engellenmez.
Bu rehber nasıl?
Otomatik Denetleme
Otomatik Denetim Sisteminin yapılandırılması. Bu sistem, kullanıcı ihlallerini takip etmek için bir puanlama mekanizması kullanır. Kullanıcılar aşırı giriş denemeleri, kayıtlar veya mesajlaşma gibi eylemlerde bulundukça ihlal puanları biriktirirler. Belirlenen bir eşiğe ulaşıldığında, kullanıcı ve IP adresi geçici olarak yasaklanır. Bu sistem, hızlı veya şüpheli etkinlikleri izleyip cezalandırarak platform güvenliğini sağlar.
Günlükleme Sistemi
Bu belge, hata ve hata ayıklama günlüklerini `/api/logs` klasörüne kaydeden LibreChat günlük kaydı özelliğinin nasıl kullanılacağını açıklar. Bu günlükleri sorunları gidermek, sunucunuzu izlemek ve hataları bildirmek için kullanabilirsiniz. Ayrıca yer kazanmak isterseniz hata ayıklama günlüklerini devre dışı bırakabilirsiniz.