Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Langfuse 追踪

本文档介绍了如何将 Langfuse 追踪集成到 LibreChat 中,以实现对 AI 对话的全面可观测性。

Langfuse 是一个开源的 LLM 可观测性平台,可帮助您追踪、监控和调试您的 LLM 应用程序。通过将 Langfuse 与 LibreChat 集成,您可以全面了解您的 AI 对话。

先决条件

在开始之前,请确保您已准备好:

  1. 一个正在运行的 LibreChat 实例(请参阅 快速开始
  2. 一个 Langfuse 账户(免费注册
  3. 来自您项目设置的 Langfuse API 密钥

设置

将以下与 Langfuse 相关的环境变量添加到您 LibreChat 安装目录下的 .env 文件中:

KeyTypeDescriptionExample
LANGFUSE_PUBLIC_KEYstring您的 Langfuse 公钥。LANGFUSE_PUBLIC_KEY=pk-lf-***
LANGFUSE_SECRET_KEYstring您的 Langfuse 密钥。LANGFUSE_SECRET_KEY=sk-lf-***
LANGFUSE_BASE_URLstringLangfuse API 基础 URL。LANGFUSE_BASE_URL=https://cloud.langfuse.com

配置示例

# Langfuse Configuration
LANGFUSE_PUBLIC_KEY=pk-lf-***
LANGFUSE_SECRET_KEY=sk-lf-***
 
# 🇪🇺 EU Data Region
LANGFUSE_BASE_URL=https://cloud.langfuse.com
 
# 🇺🇸 US Data Region
# LANGFUSE_BASE_URL=https://us.cloud.langfuse.com

自托管 Langfuse

对于自托管的 Langfuse 实例,请将 LANGFUSE_BASE_URL 设置为您的自定义 URL(例如,本地开发时使用 http://localhost:3000)。

重启 LibreChat

添加环境变量后,请重启您的 LibreChat 实例以应用更改:

docker compose down
docker compose up -d

在 Langfuse 中查看追踪 (Traces)

一旦配置好 Langfuse 并重启 LibreChat,您将在 Langfuse UI 中看到每一条聊天消息响应的新追踪记录:

LibreChat 示例追踪

在 Langfuse UI 中查看追踪的链接

消息反馈评分

当配置了 Langfuse 追踪时,LibreChat 还会将消息反馈作为 user-feedback 布尔值分数发送到 Langfuse 中对应的追踪记录上。点赞评分发送为 1,点踩评分发送为 0,任何选定的反馈标签或评论都会包含在分数中。清除反馈将删除该分数。

反馈评分在可用时会包含消息上下文元数据,包括消息 ID、父消息 ID、对话/会话 ID、用户 ID、endpoint、发送者、isCreatedByUser、令牌计数、评分和反馈标签。在发送评分之前,空的元数据值会被省略。

反馈评分使用与追踪相同的 Langfuse 凭据和基础 URL。它们同样遵循 LANGFUSE_TRACING_ENABLED=falseLANGFUSE_SAMPLE_RATE=0LANGFUSE_TRACING_ENVIRONMENT 的设置。评分发送采用尽力而为(best-effort)原则,因此如果 Langfuse 暂时不可用,反馈 UI 不会被阻塞。

这篇指南怎么样?