Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

OpenRouter

LibreChatでOpenRouterをカスタムendpointとして設定する。

OpenRouterは、OpenAI、Anthropic、Google、Meta、Mistral、その他のプロバイダーが提供する数百ものモデルへのリクエストを、単一のOpenAI互換endpointを通じてルーティングします。

APIキーを取得する

openrouter.ai でアカウントを作成し、Keys ページからキーを生成してください。キーは sk-or-v1- で始まります。これを .env ファイルに追加します:

OPENROUTER_KEY=sk-or-v1-your-key-here

OPENROUTER_API_KEY ではなく OPENROUTER_KEY を使用してください

変数は OPENROUTER_KEY という名前にする必要があります。OPENROUTER_API_KEY と命名すると、組み込みの OpenAI endpoint も OpenRouter 経由でルーティングされてしまい、これはほとんどの場合意図した動作ではありません。

設定

librechat.yamlendpoints.custom の下にエンドポイントを追加します:

    - name: "OpenRouter"
      apiKey: "${OPENROUTER_KEY}"
      baseURL: "https://openrouter.ai/api/v1"
      models:
        default: ["meta-llama/llama-3-70b-instruct"]
        fetch: true
      titleConvo: true
      titleModel: "meta-llama/llama-3-70b-instruct"
      dropParams: ["stop"]
      modelDisplayLabel: "OpenRouter"

完全なカタログを取得する代わりに固定のモデルリストをピン留めするには、fetch: false を設定し、モデルを自分でリストアップします:

      models:
        default: ["anthropic/claude-3.5-sonnet", "openai/gpt-4o", "meta-llama/llama-3-70b-instruct"]
        fetch: false

各ユーザーが .env から読み込むのではなく、LibreChat UI を通じて独自のキーを提供できるようにするには、apiKey: "user_provided" を設定します。これにより、ユーザーが endpoint を選択した際にキー入力フィールドが表示されるようになります。

注記

  • fetch: true を設定すると、LibreChat は OpenRouter からモデルリスト全体を読み込むため、新しいモデルが自動的に表示されるようになります。default 配列は初期選択のみに使用されます。
  • dropParams: ["stop"] は、リクエストから stop パラメータを除去します。OpenRouterのモデルは多様なストップトークンを使用するため、これを除去することで互換性のエラーを回避できます。
  • 402 Payment Required というレスポンスは LibreChat ではなく OpenRouter から返されるものです。OpenRouter アカウントにクレジットを追加するか、無料のモデルを選択してから再試行してください。

このガイドはいかがでしたか?