Metriche

Generale

Puoi utilizzare Prometheus o qualsiasi altro strumento di monitoraggio compatibile con OpenMetrics per ottenere metriche sull'utilizzo attivo di LibreChat. Ciò include informazioni tecniche come l'utilizzo dei token, ma anche informazioni sugli utenti finali come il numero di utenti totali o attivi.

LibreChat espone anche metriche Prometheus integrate dal server API all'indirizzo /metrics quando METRICS_SECRET è configurato. Eseguine lo scraping con Authorization: Bearer <METRICS_SECRET>. I risultati del proxy RUM del browser vengono riportati come rum_proxy_requests_total{endpoint,result}, dove endpoint è traces, logs o unknown, e result può essere success, auth_drop, auth_error, bad_request, not_configured, collector_4xx, collector_5xx, collector_error o collector_timeout.

L'exporter delle metriche è disponibile su virtUOS/librechat_exporter. Si tratta di uno strumento separato che si distribuisce insieme a LibreChat.

Configurazione

Per distribuire l'exporter, basta aggiungere il container necessario alla propria configurazione compose in questo modo:

services:
  metrics:
    image: ghcr.io/virtuos/librechat_exporter:main
    depends_on:
      - mongodb
    ports:
      - '8000:8000'
    restart: unless-stopped

Puoi facoltativamente configurare anche l'exporter. Ma di solito, le impostazioni predefinite dovrebbero andare bene.

services:
  metrics:
    environment:
      - MONGODB_URI=mongodb://mongodb:27017/
      - LOGGING_LEVEL=info

Utilizzo

Ora puoi aggiungere l'exporter alla tua configurazione di scraping di Prometheus:

- job_name: librechat
  static_configs:
    - targets:
        - 'librechat.example.com:8000'

Una volta avviato lo scraping delle metriche, cerca le metriche librechat_* (ad esempio, librechat_registered_users). L'exporter fornisce diverse metriche.

Divertiti a creare la tua dashboard Grafana!