LibreChatŚledzenie Langfuse
Ten dokument wyjaśnia, jak zintegrować śledzenie Langfuse z LibreChat, aby uzyskać pełną obserwowalność konwersacji AI.
Langfuse to otwartoźródłowa platforma do obserwowalności LLM, która pomaga śledzić, monitorować i debugować aplikacje oparte na LLM. Dzięki integracji Langfuse z LibreChat zyskujesz pełny wgląd w swoje konwersacje z AI.
Wymagania wstępne
Zanim zaczniesz, upewnij się, że masz:
- Działająca instancja LibreChat (zobacz Szybki start)
- Konto Langfuse (zarejestruj się za darmo)
- Klucze API Langfuse z ustawień Twojego projektu
Konfiguracja
Dodaj następujące zmienne środowiskowe powiązane z Langfuse do pliku .env w katalogu instalacyjnym LibreChat:
| Key | Type | Description | Example |
|---|---|---|---|
| LANGFUSE_PUBLIC_KEY | string | Twój klucz publiczny Langfuse. | LANGFUSE_PUBLIC_KEY=pk-lf-*** |
| LANGFUSE_SECRET_KEY | string | Twój klucz tajny Langfuse. | LANGFUSE_SECRET_KEY=sk-lf-*** |
| LANGFUSE_BASE_URL | string | Podstawowy adres URL API Langfuse. | LANGFUSE_BASE_URL=https://cloud.langfuse.com |
Przykładowa konfiguracja
# Langfuse Configuration
LANGFUSE_PUBLIC_KEY=pk-lf-***
LANGFUSE_SECRET_KEY=sk-lf-***
# 🇪🇺 EU Data Region
LANGFUSE_BASE_URL=https://cloud.langfuse.com
# 🇺🇸 US Data Region
# LANGFUSE_BASE_URL=https://us.cloud.langfuse.comSamodzielnie hostowany Langfuse
W przypadku samodzielnie hostowanych instancji Langfuse, ustaw LANGFUSE_BASE_URL na swój niestandardowy adres URL (np. http://localhost:3000 dla lokalnego środowiska programistycznego).
Restart LibreChat
Po dodaniu zmiennych środowiskowych zrestartuj swoją instancję LibreChat, aby zastosować zmiany:
docker compose down
docker compose up -dZobacz ślady w Langfuse
Po ponownym uruchomieniu LibreChat z skonfigurowanym Langfuse, w interfejsie użytkownika Langfuse zobaczysz nowy ślad (trace) dla każdej odpowiedzi na wiadomość na czacie:
Link do śledzenia w interfejsie użytkownika Langfuse
Wyniki opinii o wiadomościach
Gdy śledzenie Langfuse jest skonfigurowane, LibreChat wysyła również opinie o wiadomościach do Langfuse jako wynik user-feedback typu BOOLEAN w pasującym śladzie. Ocena „łapka w górę” jest wysyłana jako 1, ocena „łapka w dół” jako 0, a każdy wybrany tag opinii lub komentarz jest dołączany do wyniku. Usunięcie opinii powoduje usunięcie wyniku.
Wyniki ocen (feedback scores) zawierają metadane kontekstu wiadomości, gdy są one dostępne, w tym ID wiadomości, ID wiadomości nadrzędnej, ID konwersacji/sesji, ID użytkownika, endpoint, nadawcę, isCreatedByUser, liczbę tokenów, ocenę oraz tag opinii. Puste wartości metadanych są pomijane przed wysłaniem wyniku.
Oceny zwrotne (feedback scores) wykorzystują te same dane uwierzytelniające Langfuse oraz bazowy adres URL, co śledzenie (tracing). Respektują one również ustawienia LANGFUSE_TRACING_ENABLED=false, LANGFUSE_SAMPLE_RATE=0 oraz LANGFUSE_TRACING_ENVIRONMENT. Dostarczanie ocen odbywa się w trybie best-effort, więc interfejs użytkownika opinii nie blokuje się, jeśli usługa Langfuse jest tymczasowo niedostępna.
Jaka jest ta instrukcja?
Zautomatyzowana moderacja
Konfiguracja zautomatyzowanego systemu moderacji. Wykorzystuje on mechanizm punktacji do śledzenia naruszeń użytkowników. Gdy użytkownicy wykonują działania takie jak nadmierna liczba logowań, rejestracji lub wysyłania wiadomości, gromadzą punkty naruszeń. Po osiągnięciu określonego progu użytkownik oraz jego adres IP są tymczasowo blokowani. System ten zapewnia bezpieczeństwo platformy poprzez monitorowanie i karanie gwałtownych lub podejrzanych aktywności.
System logowania
Ten dokument wyjaśnia, jak korzystać z funkcji logowania w LibreChat, która zapisuje logi błędów i debugowania w folderze `/api/logs`. Możesz używać tych logów do rozwiązywania problemów, monitorowania serwera i zgłaszania błędów. Możesz również wyłączyć logi debugowania, jeśli chcesz zaoszczędzić miejsce.