LibreChatPelacakan Langfuse
Dokumen ini menjelaskan cara mengintegrasikan pelacakan Langfuse dengan LibreChat untuk mendapatkan observabilitas penuh ke dalam percakapan AI Anda.
Langfuse adalah platform observabilitas LLM sumber terbuka yang membantu Anda melacak, memantau, dan men-debug aplikasi LLM Anda. Dengan mengintegrasikan Langfuse dengan LibreChat, Anda mendapatkan visibilitas penuh ke dalam percakapan AI Anda.
Prasyarat
Sebelum Anda memulai, pastikan Anda telah memiliki:
- Instans LibreChat yang sedang berjalan (lihat Quick Start)
- Akun Langfuse (daftar gratis)
- Kunci API Langfuse dari pengaturan proyek Anda
Pengaturan
Tambahkan variabel lingkungan terkait Langfuse berikut ke dalam file .env Anda di direktori instalasi LibreChat:
| Key | Type | Description | Example |
|---|---|---|---|
| LANGFUSE_PUBLIC_KEY | string | Kunci publik Langfuse Anda. | LANGFUSE_PUBLIC_KEY=pk-lf-*** |
| LANGFUSE_SECRET_KEY | string | Kunci rahasia Langfuse Anda. | LANGFUSE_SECRET_KEY=sk-lf-*** |
| LANGFUSE_BASE_URL | string | URL dasar API Langfuse. | LANGFUSE_BASE_URL=https://cloud.langfuse.com |
Contoh Konfigurasi
# Langfuse Configuration
LANGFUSE_PUBLIC_KEY=pk-lf-***
LANGFUSE_SECRET_KEY=sk-lf-***
# 🇪🇺 EU Data Region
LANGFUSE_BASE_URL=https://cloud.langfuse.com
# 🇺🇸 US Data Region
# LANGFUSE_BASE_URL=https://us.cloud.langfuse.comLangfuse yang Dihosting Sendiri
Untuk instans Langfuse yang di-host sendiri (self-hosted), atur LANGFUSE_BASE_URL ke URL kustom Anda (contohnya, http://localhost:3000 untuk pengembangan lokal).
Restart LibreChat
Setelah menambahkan variabel lingkungan, mulai ulang instans LibreChat Anda untuk menerapkan perubahan tersebut:
docker compose down
docker compose up -dLihat Trace di Langfuse
Setelah LibreChat dimulai ulang dengan Langfuse yang telah dikonfigurasi, Anda akan melihat jejak (trace) baru untuk setiap respons pesan obrolan di UI Langfuse:
Tautan ke pelacakan di UI Langfuse
Skor Umpan Balik Pesan
Saat pelacakan Langfuse dikonfigurasi, LibreChat juga mengirimkan umpan balik pesan ke Langfuse sebagai skor BOOLEAN user-feedback pada pelacakan yang sesuai. Peringkat jempol ke atas dikirim sebagai 1, peringkat jempol ke bawah dikirim sebagai 0, dan setiap tag atau komentar umpan balik yang dipilih disertakan pada skor tersebut. Menghapus umpan balik akan menghapus skor tersebut.
Skor umpan balik menyertakan metadata konteks pesan jika tersedia, termasuk ID pesan, ID pesan induk, ID percakapan/sesi, ID pengguna, endpoint, pengirim, isCreatedByUser, jumlah token, peringkat, dan tag umpan balik. Nilai metadata yang kosong akan dihilangkan sebelum skor dikirim.
Skor umpan balik menggunakan kredensial Langfuse dan URL dasar yang sama dengan pelacakan. Skor ini juga mematuhi LANGFUSE_TRACING_ENABLED=false, LANGFUSE_SAMPLE_RATE=0, dan LANGFUSE_TRACING_ENVIRONMENT. Pengiriman skor dilakukan dengan upaya terbaik (best-effort), sehingga UI umpan balik tidak akan terblokir jika Langfuse untuk sementara tidak tersedia.
Bagaimana panduan ini?
Moderasi Otomatis
Konfigurasi Sistem Moderasi Otomatis. Sistem ini menggunakan mekanisme penilaian untuk melacak pelanggaran pengguna. Saat pengguna melakukan tindakan seperti login, pendaftaran, atau pengiriman pesan yang berlebihan, mereka akan mengumpulkan skor pelanggaran. Setelah mencapai ambang batas yang ditetapkan, pengguna dan IP mereka akan diblokir sementara. Sistem ini memastikan keamanan platform dengan memantau dan memberikan penalti terhadap aktivitas yang cepat atau mencurigakan.
Sistem Pencatatan
Dokumen ini menjelaskan cara menggunakan fitur logging LibreChat, yang menyimpan log error dan debug di folder `/api/logs`. Anda dapat menggunakan log ini untuk memecahkan masalah, memantau server Anda, dan melaporkan bug. Anda juga dapat menonaktifkan log debug jika ingin menghemat ruang penyimpanan.