Metrik

Umum

Anda dapat menggunakan Prometheus atau alat pemantauan lain yang kompatibel dengan OpenMetrics untuk mendapatkan metrik mengenai penggunaan aktif LibreChat. Ini mencakup informasi teknis seperti penggunaan token, tetapi juga informasi mengenai pengguna akhir seperti jumlah total atau pengguna aktif.

LibreChat juga mengekspos metrik Prometheus bawaan dari server API di /metrics saat METRICS_SECRET dikonfigurasi. Lakukan scraping dengan Authorization: Bearer <METRICS_SECRET>. Hasil proxy RUM browser dilaporkan sebagai rum_proxy_requests_total{endpoint,result}, di mana endpoint adalah traces, logs, atau unknown, dan result bisa berupa success, auth_drop, auth_error, bad_request, not_configured, collector_4xx, collector_5xx, collector_error, atau collector_timeout.

Metrics exporter tersedia di virtUOS/librechat_exporter. Ini adalah alat terpisah yang Anda deploy bersama LibreChat.

Pengaturan

Untuk men-deploy exporter, cukup tambahkan container yang diperlukan ke konfigurasi compose Anda seperti ini:

services:
  metrics:
    image: ghcr.io/virtuos/librechat_exporter:main
    depends_on:
      - mongodb
    ports:
      - '8000:8000'
    restart: unless-stopped

Anda juga dapat mengonfigurasi exporter secara opsional. Namun biasanya, pengaturan default sudah cukup baik.

services:
  metrics:
    environment:
      - MONGODB_URI=mongodb://mongodb:27017/
      - LOGGING_LEVEL=info

Penggunaan

Anda sekarang dapat menambahkan eksportir ke konfigurasi scrape Prometheus Anda:

- job_name: librechat
  static_configs:
    - targets:
        - 'librechat.example.com:8000'

Setelah pengambilan metrik dimulai, cari metrik librechat_* (contoh: librechat_registered_users). Exporter ini menyediakan beberapa metrik.

Selamat bersenang-senang dalam membangun dasbor Grafana Anda!