Helicone
LibreChatでHeliconeのAI Gatewayをカスタムendpointとして設定する。
Heliconeは、OpenAI、Anthropic、Google、Meta、Mistralなどのプロバイダーのモデルへのリクエストを、単一のOpenAI互換endpoint経由でルーティングするAIゲートウェイであり、リクエストのログ記録と使用状況の分析機能が組み込まれています。
APIキーを取得する
helicone.ai でアカウントを作成し、Settings → API Keys からキーを生成します。それを .env ファイルに追加してください:
アカウントにクレジットがあることを確認してください。そうでない場合、モデルのリクエストは失敗します。
設定
librechat.yaml の endpoints.custom の下にエンドポイントを追加します:
注記
fetch: trueを設定すると、LibreChatはHeliconeからモデルの全リストを読み込むため、default配列は初期選択のみとなります。Heliconeモデルライブラリ で利用可能なすべてのモデルを閲覧できます。x-librechat-body-parentmessageidヘッダーは、各リクエストの親メッセージIDをHeliconeに渡すことで、ログを会話ごとにグループ化できるようにします。- Helicone dashboard から、レート制限、キャッシュポリシーの設定、および使用状況の確認を行います。
このガイドはいかがでしたか?