Helicone
Konfiguriere das AI Gateway von Helicone als benutzerdefinierten endpoint in LibreChat.
Helicone ist ein KI-Gateway, das Anfragen an Modelle von OpenAI, Anthropic, Google, Meta, Mistral und anderen Anbietern über einen einzigen OpenAI-kompatiblen endpoint leitet, mit integrierter Anfrageprotokollierung und Nutzungsanalysen.
Einen API-Schlüssel erhalten
Erstellen Sie ein Konto bei helicone.ai und generieren Sie einen Schlüssel unter Settings → API Keys. Fügen Sie ihn Ihrer .env Datei hinzu:
Stellen Sie sicher, dass Ihr Konto über Guthaben verfügt, da Modellanfragen andernfalls fehlschlagen.
Konfiguration
Fügen Sie den endpoint unter endpoints.custom in Ihrer librechat.yaml hinzu:
Hinweise
- Mit
fetch: truelädt LibreChat die vollständige Modellliste von Helicone, sodass dasdefault-Array nur die anfängliche Auswahl darstellt. Durchsuchen Sie alle verfügbaren Modelle in der Helicone model library. - Der
x-librechat-body-parentmessageidHeader übergibt die übergeordnete Nachrichten-ID jeder Anfrage an Helicone, damit Protokolle nach Konversation gruppiert werden können. - Legen Sie Ratenbegrenzungen, Caching-Richtlinien fest und überprüfen Sie die Nutzung über das Helicone dashboard.
Wie finden Sie diese Anleitung?