Métricas

General

Puede utilizar Prometheus o cualquier otra herramienta de monitoreo compatible con OpenMetrics para obtener métricas sobre el uso activo de LibreChat. Esto incluye información técnica como el uso de tokens, pero también información sobre los usuarios finales, como el número total o activo de usuarios.

LibreChat también expone métricas integradas de Prometheus desde el servidor de la API en /metrics cuando METRICS_SECRET está configurado. Recopílelas con Authorization: Bearer <METRICS_SECRET>. Los resultados del proxy RUM del navegador se reportan como rum_proxy_requests_total{endpoint,result}, donde endpoint es traces, logs o unknown, y result puede ser success, auth_drop, auth_error, bad_request, not_configured, collector_4xx, collector_5xx, collector_error o collector_timeout.

El exportador de métricas está disponible en virtUOS/librechat_exporter. Es una herramienta independiente que se despliega junto a LibreChat.

Configuración

Para desplegar el exporter, simplemente añade el contenedor necesario a tu configuración de compose de la siguiente manera:

services:
  metrics:
    image: ghcr.io/virtuos/librechat_exporter:main
    depends_on:
      - mongodb
    ports:
      - '8000:8000'
    restart: unless-stopped

Opcionalmente, también puede configurar el exporter. Pero, por lo general, los valores predeterminados deberían ser suficientes.

services:
  metrics:
    environment:
      - MONGODB_URI=mongodb://mongodb:27017/
      - LOGGING_LEVEL=info

Uso

Ahora puede agregar el exportador a su configuración de scrape de Prometheus:

- job_name: librechat
  static_configs:
    - targets:
        - 'librechat.example.com:8000'

Una vez que el scraping de las métricas haya comenzado, busque las métricas librechat_* (por ejemplo, librechat_registered_users). El exportador proporciona varias métricas.

¡Diviértete creando tu panel de Grafana!