指标
本文档介绍了如何为 LibreChat 添加 Prometheus 指标导出器。
常规

您可以使用 Prometheus 或任何其他兼容 OpenMetrics 的监控工具来获取有关 LibreChat 活跃使用情况的指标。 这包括诸如令牌(token)使用情况等技术信息,也包括诸如总用户数或活跃用户数等关于最终用户的信息。
当配置了 METRICS_SECRET 时,LibreChat 还会通过 /metrics 路径从 API 服务器公开内置的 Prometheus 指标。请使用 Authorization: Bearer <METRICS_SECRET> 进行抓取。浏览器 RUM 代理的结果记录为 rum_proxy_requests_total{endpoint,result},其中 endpoint 为 traces、logs 或 unknown,而 result 可以是 success、auth_drop、auth_error、bad_request、not_configured、collector_4xx、collector_5xx、collector_error 或 collector_timeout。
指标导出器可在 virtUOS/librechat_exporter 获取。 这是一个与 LibreChat 一起部署的独立工具。
设置
要部署 exporter,只需将必要的容器添加到您的 compose 配置中,如下所示:
services:
metrics:
image: ghcr.io/virtuos/librechat_exporter:main
depends_on:
- mongodb
ports:
- '8000:8000'
restart: unless-stopped您可以选择性地配置 exporter。 但通常情况下,默认设置就已经足够了。
services:
metrics:
environment:
- MONGODB_URI=mongodb://mongodb:27017/
- LOGGING_LEVEL=info使用方法
现在你可以将 exporter 添加到你的 Prometheus 抓取配置中:
- job_name: librechat
static_configs:
- targets:
- 'librechat.example.com:8000'一旦开始抓取指标,请查找 librechat_* 指标(例如 librechat_registered_users)。
该导出器提供了多个指标。
祝您在构建 Grafana 仪表板时玩得开心!
这篇指南怎么样?