메트릭

일반

Prometheus 또는 OpenMetrics와 호환되는 다른 모니터링 도구를 사용하여 LibreChat의 활성 사용량에 대한 메트릭을 가져올 수 있습니다. 여기에는 토큰 사용량과 같은 기술적 정보뿐만 아니라, 전체 사용자 수나 활성 사용자 수와 같은 최종 사용자에 대한 정보도 포함됩니다.

LibreChat은 METRICS_SECRET이 설정된 경우 API 서버의 /metrics에서 내장 Prometheus 메트릭을 노출합니다. Authorization: Bearer <METRICS_SECRET> 헤더를 사용하여 스크랩하십시오. 브라우저 RUM 프록시 결과는 rum_proxy_requests_total{endpoint,result}로 보고되며, 여기서 endpoint는 traces, logs 또는 unknown이고, result는 success, auth_drop, auth_error, bad_request, not_configured, collector_4xx, collector_5xx, collector_error 또는 collector_timeout이 될 수 있습니다.

메트릭스 익스포터는 virtUOS/librechat_exporter에서 이용할 수 있습니다. 이는 LibreChat과 함께 배포하는 별도의 도구입니다.

설정

exporter를 배포하려면, 다음과 같이 compose 구성에 필요한 컨테이너를 추가하기만 하면 됩니다:

services:
  metrics:
    image: ghcr.io/virtuos/librechat_exporter:main
    depends_on:
      - mongodb
    ports:
      - '8000:8000'
    restart: unless-stopped

선택적으로 exporter를 구성할 수도 있습니다. 하지만 일반적으로는 기본값으로도 충분합니다.

services:
  metrics:
    environment:
      - MONGODB_URI=mongodb://mongodb:27017/
      - LOGGING_LEVEL=info

사용법

이제 Prometheus 스크랩 구성에 exporter를 추가할 수 있습니다:

- job_name: librechat
  static_configs:
    - targets:
        - 'librechat.example.com:8000'

메트릭 스크래핑이 시작되면 librechat_* 메트릭(예: librechat_registered_users)을 확인하세요. 이 익스포터는 여러 메트릭을 제공합니다.

Grafana 대시보드를 즐겁게 구축해 보세요!