Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Transakcje

Skonfiguruj rejestrowanie transakcji dla użycia tokenów w LibreChat

Przegląd

Obiekt transactions kontroluje, czy rekordy użycia tokenów są zapisywane w bazie danych w LibreChat. Pozwala to administratorom na włączanie lub wyłączanie śledzenia transakcji niezależnie od systemu sald.

Pola w transactions:

  • enabled

Uwagi:

  • Rejestrowanie transakcji jest niezbędne do śledzenia historycznego zużycia tokenów
  • Gdy balance.enabled jest ustawione na true, transakcje są automatycznie włączane niezależnie od tego ustawienia
  • Domyślna wartość to true, aby zapewnić, że zużycie tokenów jest domyślnie śledzone
  • Wyłączenie transakcji może zmniejszyć wymagania dotyczące miejsca w bazie danych, ale uniemożliwi analizę historycznego użycia.

Przykład

transactions:
  enabled: false

enabled

Klucz:

KeyTypeDescriptionExample
enabledBooleanOkreśla, czy zapisywać rekordy transakcji w bazie danych.Default: true. Set to false to disable transaction recording (unless balance.enabled is true).

Opis:

Pole enabled określa, czy LibreChat zapisuje szczegółowe rekordy transakcji dla każdego zdarzenia użycia tokenów. Rekordy te obejmują:

  • Liczba tokenów dla promptów i uzupełnień
  • Powiązane koszty i stawki
  • Identyfikatory użytkownika i konwersacji
  • Znaczniki czasu dla każdej transakcji

Ważne zachowanie:

Gdy system salda jest włączony (balance.enabled: true), rejestrowanie transakcji jest automatycznie aktywowane niezależnie od ustawienia transactions.enabled. Zapewnia to, że:

  1. Śledzenie salda działa poprawnie wraz z pełną ścieżką audytu
  2. Zużycie tokenów może być dokładnie obliczane i odejmowane od sald użytkowników
  3. Dane historyczne są dostępne w celu uzgodnienia salda

Przypadki użycia:

  • Włącz transakcje (true): Gdy musisz śledzić wzorce użytkowania, generować raporty lub prowadzić ścieżkę audytu
  • Disable transactions (false): Gdy chcesz ograniczyć zużycie pamięci bazy danych i nie potrzebujesz historycznych danych o użyciu (działa tylko wtedy, gdy śledzenie salda jest również wyłączone)

Relacja z systemem salda

Systemy transakcji i salda współpracują ze sobą:

# When balance is enabled, transactions are always enabled
balance:
  enabled: true
  startBalance: 20000

transactions:
  enabled: false  # This will be overridden to true because balance.enabled is true
# Track transactions without balance management
balance:
  enabled: false

transactions:
  enabled: true  # Records all token usage without enforcing balance limits

Wpływ na bazę danych

Gdy transakcje są włączone, każde wywołanie API, które zużywa tokeny, tworzy rekord w kolekcji "Transactions" z następującymi informacjami:

  • Identyfikator użytkownika i adres e-mail
  • Identyfikator konwersacji
  • Użyty model
  • Liczba tokenów (prompt i uzupełnienie)
  • Wartości i stawki tokenów
  • Znacznik czasu
  • Typ transakcji (kredytowa lub debetowa)

Rozważ wpływ na pamięć masową podczas włączania transakcji w przypadku wdrożeń o dużym natężeniu ruchu.

Jaka jest ta instrukcja?