LibreChatRastreamento Langfuse
Este documento explica como integrar o rastreamento do Langfuse ao LibreChat para obter observabilidade completa em suas conversas com IA.
Langfuse é uma plataforma de observabilidade de LLM de código aberto que ajuda você a rastrear, monitorar e depurar suas aplicações de LLM. Ao integrar o Langfuse ao LibreChat, você obtém visibilidade total de suas conversas com IA.
Pré-requisitos
Antes de começar, certifique-se de que você tem:
- Uma instância do LibreChat em execução (veja Quick Start)
- Uma conta Langfuse (inscreva-se gratuitamente)
- Chaves de API do Langfuse nas configurações do seu projeto
Configuração
Adicione as seguintes variáveis de ambiente relacionadas ao Langfuse ao seu arquivo .env no diretório de instalação do LibreChat:
| Key | Type | Description | Example |
|---|---|---|---|
| LANGFUSE_PUBLIC_KEY | string | Sua chave pública do Langfuse. | LANGFUSE_PUBLIC_KEY=pk-lf-*** |
| LANGFUSE_SECRET_KEY | string | Sua chave secreta do Langfuse. | LANGFUSE_SECRET_KEY=sk-lf-*** |
| LANGFUSE_BASE_URL | string | A URL base da API do Langfuse. | LANGFUSE_BASE_URL=https://cloud.langfuse.com |
Exemplo de Configuração
# Langfuse Configuration
LANGFUSE_PUBLIC_KEY=pk-lf-***
LANGFUSE_SECRET_KEY=sk-lf-***
# 🇪🇺 EU Data Region
LANGFUSE_BASE_URL=https://cloud.langfuse.com
# 🇺🇸 US Data Region
# LANGFUSE_BASE_URL=https://us.cloud.langfuse.comLangfuse auto-hospedado
Para instâncias do Langfuse auto-hospedadas, defina LANGFUSE_BASE_URL para sua URL personalizada (por exemplo, http://localhost:3000 para desenvolvimento local).
Reiniciar o LibreChat
Após adicionar as variáveis de ambiente, reinicie sua instância do LibreChat para aplicar as alterações:
docker compose down
docker compose up -dVer rastreamentos no Langfuse
Assim que o LibreChat for reiniciado com o Langfuse configurado, você verá um novo rastreamento para cada resposta de mensagem de chat na interface do Langfuse:
Link para o rastreamento na interface do Langfuse
Pontuações de Feedback de Mensagem
Quando o rastreamento do Langfuse está configurado, o LibreChat também envia o feedback da mensagem para o Langfuse como uma pontuação BOOLEAN user-feedback no rastreamento correspondente. Uma avaliação de "joinha" (positivo) é enviada como 1, uma avaliação de "joinha para baixo" (negativo) é enviada como 0, e qualquer tag de feedback ou comentário selecionado é incluído na pontuação. Limpar o feedback exclui a pontuação.
As pontuações de feedback incluem metadados de contexto da mensagem quando disponíveis, incluindo o ID da mensagem, ID da mensagem pai, ID da conversa/sessão, ID do usuário, endpoint, remetente, isCreatedByUser, contagem de tokens, classificação e tag de feedback. Valores de metadados vazios são omitidos antes que a pontuação seja enviada.
As pontuações de feedback usam as mesmas credenciais e URL base do Langfuse que o rastreamento (tracing). Elas também respeitam LANGFUSE_TRACING_ENABLED=false, LANGFUSE_SAMPLE_RATE=0 e LANGFUSE_TRACING_ENVIRONMENT. O envio da pontuação é feito com o melhor esforço possível (best-effort), portanto, a interface de usuário de feedback não bloqueia caso o Langfuse esteja temporariamente indisponível.
Como está este guia?
Métricas
Este documento explica como adicionar um exportador de métricas para Prometheus ao LibreChat.
Moderação Automatizada
Configuração do Sistema de Moderação Automatizado. Isso utiliza um mecanismo de pontuação para rastrear violações do usuário. À medida que os usuários cometem ações como logins, registros ou mensagens excessivas, eles acumulam pontuações de violação. Ao atingir um limite definido, o usuário e seu IP são banidos temporariamente. Este sistema garante a segurança da plataforma monitorando e penalizando atividades rápidas ou suspeitas.