LibreChatRastreamento Langfuse
Este documento explica como integrar o rastreamento do Langfuse ao LibreChat para obter observabilidade completa em suas conversas com IA.
Langfuse Ć© uma plataforma de observabilidade de LLM de cĆ³digo aberto que ajuda vocĆŖ a rastrear, monitorar e depurar suas aplicaƧƵes de LLM. Ao integrar o Langfuse ao LibreChat, vocĆŖ obtĆ©m visibilidade total de suas conversas com IA.
PrƩ-requisitos
Antes de comeƧar, certifique-se de que vocĆŖ tem:
- Uma instĆ¢ncia do LibreChat em execuĆ§Ć£o (veja Quick Start)
- Uma conta Langfuse (inscreva-se gratuitamente)
- Chaves de API do Langfuse nas configuraƧƵes do seu projeto
ConfiguraĆ§Ć£o
Adicione as seguintes variĆ”veis de ambiente relacionadas ao Langfuse ao seu arquivo .env no diretĆ³rio de instalaĆ§Ć£o do LibreChat:
| Key | Type | Description | Example |
|---|---|---|---|
| LANGFUSE_PUBLIC_KEY | string | Sua chave pĆŗblica do Langfuse. | LANGFUSE_PUBLIC_KEY=pk-lf-*** |
| LANGFUSE_SECRET_KEY | string | Sua chave secreta do Langfuse. | LANGFUSE_SECRET_KEY=sk-lf-*** |
| LANGFUSE_BASE_URL | string | A URL base da API do Langfuse. | LANGFUSE_BASE_URL=https://cloud.langfuse.com |
Exemplo de ConfiguraĆ§Ć£o
# Langfuse Configuration
LANGFUSE_PUBLIC_KEY=pk-lf-***
LANGFUSE_SECRET_KEY=sk-lf-***
# šŖšŗ EU Data Region
LANGFUSE_BASE_URL=https://cloud.langfuse.com
# šŗšø US Data Region
# LANGFUSE_BASE_URL=https://us.cloud.langfuse.comLangfuse auto-hospedado
Para instĆ¢ncias do Langfuse auto-hospedadas, defina LANGFUSE_BASE_URL para sua URL personalizada (por exemplo, http://localhost:3000 para desenvolvimento local).
Reiniciar o LibreChat
ApĆ³s adicionar as variĆ”veis de ambiente, reinicie sua instĆ¢ncia do LibreChat para aplicar as alteraƧƵes:
docker compose down
docker compose up -dVer rastreamentos no Langfuse
Assim que o LibreChat for reiniciado com o Langfuse configurado, vocĆŖ verĆ” um novo rastreamento para cada resposta de mensagem de chat na interface do Langfuse:
Link para o rastreamento na interface do Langfuse
PontuaƧƵes de Feedback de Mensagem
Quando o rastreamento do Langfuse estĆ” configurado, o LibreChat tambĆ©m envia o feedback da mensagem para o Langfuse como uma pontuaĆ§Ć£o BOOLEAN user-feedback no rastreamento correspondente. Uma avaliaĆ§Ć£o de "joinha" (positivo) Ć© enviada como 1, uma avaliaĆ§Ć£o de "joinha para baixo" (negativo) Ć© enviada como 0, e qualquer tag de feedback ou comentĆ”rio selecionado Ć© incluĆdo na pontuaĆ§Ć£o. Limpar o feedback exclui a pontuaĆ§Ć£o.
As pontuaƧƵes de feedback incluem metadados de contexto da mensagem quando disponĆveis, incluindo o ID da mensagem, ID da mensagem pai, ID da conversa/sessĆ£o, ID do usuĆ”rio, endpoint, remetente, isCreatedByUser, contagem de tokens, classificaĆ§Ć£o e tag de feedback. Valores de metadados vazios sĆ£o omitidos antes que a pontuaĆ§Ć£o seja enviada.
As pontuaƧƵes de feedback usam as mesmas credenciais e URL base do Langfuse que o rastreamento (tracing). Elas tambĆ©m respeitam LANGFUSE_TRACING_ENABLED=false, LANGFUSE_SAMPLE_RATE=0 e LANGFUSE_TRACING_ENVIRONMENT. O envio da pontuaĆ§Ć£o Ć© feito com o melhor esforƧo possĆvel (best-effort), portanto, a interface de usuĆ”rio de feedback nĆ£o bloqueia caso o Langfuse esteja temporariamente indisponĆvel.
Como estĆ” este guia?
ModeraĆ§Ć£o Automatizada
ConfiguraĆ§Ć£o do Sistema de ModeraĆ§Ć£o Automatizado. Isso utiliza um mecanismo de pontuaĆ§Ć£o para rastrear violaƧƵes do usuĆ”rio. Ć medida que os usuĆ”rios cometem aƧƵes como logins, registros ou mensagens excessivas, eles acumulam pontuaƧƵes de violaĆ§Ć£o. Ao atingir um limite definido, o usuĆ”rio e seu IP sĆ£o banidos temporariamente. Este sistema garante a seguranƧa da plataforma monitorando e penalizando atividades rĆ”pidas ou suspeitas.
Sistema de Logs
Este documento explica como usar o recurso de log do LibreChat, que salva logs de erro e depuraĆ§Ć£o na pasta `/api/logs`. VocĆŖ pode usar esses logs para solucionar problemas, monitorar seu servidor e relatar bugs. VocĆŖ tambĆ©m pode desativar os logs de depuraĆ§Ć£o se quiser economizar espaƧo.