Transakcje
Skonfiguruj rejestrowanie transakcji dla użycia tokenów w LibreChat
Przegląd
Obiekt transactions kontroluje, czy rekordy użycia tokenów są zapisywane w bazie danych w LibreChat. Pozwala to administratorom na włączanie lub wyłączanie śledzenia transakcji niezależnie od systemu sald.
Pola w transactions:
enabled
Uwagi:
- Rejestrowanie transakcji jest niezbędne do śledzenia historycznego zużycia tokenów
- Gdy
balance.enabledjest ustawione natrue, transakcje są automatycznie włączane niezależnie od tego ustawienia - Domyślna wartość to
true, aby zapewnić, że zużycie tokenów jest domyślnie śledzone - Wyłączenie transakcji może zmniejszyć wymagania dotyczące miejsca w bazie danych, ale uniemożliwi analizę historycznego użycia.
Przykład
transactions:
enabled: falseenabled
Klucz:
| Key | Type | Description | Example |
|---|---|---|---|
| enabled | Boolean | Określa, czy zapisywać rekordy transakcji w bazie danych. | Default: true. Set to false to disable transaction recording (unless balance.enabled is true). |
Opis:
Pole enabled określa, czy LibreChat zapisuje szczegółowe rekordy transakcji dla każdego zdarzenia użycia tokenów. Rekordy te obejmują:
- Liczba tokenów dla promptów i uzupełnień
- Powiązane koszty i stawki
- Identyfikatory użytkownika i konwersacji
- Znaczniki czasu dla każdej transakcji
Ważne zachowanie:
Gdy system salda jest włączony (balance.enabled: true), rejestrowanie transakcji jest automatycznie aktywowane niezależnie od ustawienia transactions.enabled. Zapewnia to, że:
- Śledzenie salda działa poprawnie wraz z pełną ścieżką audytu
- Zużycie tokenów może być dokładnie obliczane i odejmowane od sald użytkowników
- Dane historyczne są dostępne w celu uzgodnienia salda
Przypadki użycia:
- Włącz transakcje (
true): Gdy musisz śledzić wzorce użytkowania, generować raporty lub prowadzić ścieżkę audytu - Disable transactions (
false): Gdy chcesz ograniczyć zużycie pamięci bazy danych i nie potrzebujesz historycznych danych o użyciu (działa tylko wtedy, gdy śledzenie salda jest również wyłączone)
Relacja z systemem salda
Systemy transakcji i salda współpracują ze sobą:
# When balance is enabled, transactions are always enabled
balance:
enabled: true
startBalance: 20000
transactions:
enabled: false # This will be overridden to true because balance.enabled is true# Track transactions without balance management
balance:
enabled: false
transactions:
enabled: true # Records all token usage without enforcing balance limitsWpływ na bazę danych
Gdy transakcje są włączone, każde wywołanie API, które zużywa tokeny, tworzy rekord w kolekcji "Transactions" z następującymi informacjami:
- Identyfikator użytkownika i adres e-mail
- Identyfikator konwersacji
- Użyty model
- Liczba tokenów (prompt i uzupełnienie)
- Wartości i stawki tokenów
- Znacznik czasu
- Typ transakcji (kredytowa lub debetowa)
Rozważ wpływ na pamięć masową podczas włączania transakcji w przypadku wdrożeń o dużym natężeniu ruchu.
Jaka jest ta instrukcja?