OpenRouter

OpenRouterは、OpenAI、Anthropic、Google、Meta、Mistral、その他のプロバイダーが提供する数百ものモデルへのリクエストを、単一のOpenAI互換endpointを通じてルーティングします。

APIキーを取得する

openrouter.ai でアカウントを作成し、Keys ページからキーを生成してください。キーは sk-or-v1- で始まります。これを .env ファイルに追加します：

OPENROUTER_KEY=sk-or-v1-your-key-here

設定

librechat.yaml の endpoints.custom の下にエンドポイントを追加します：

    - name: "OpenRouter"
      apiKey: "${OPENROUTER_KEY}"
      baseURL: "https://openrouter.ai/api/v1"
      models:
        default: ["meta-llama/llama-3-70b-instruct"]
        fetch: true
      titleConvo: true
      titleModel: "meta-llama/llama-3-70b-instruct"
      dropParams: ["stop"]
      modelDisplayLabel: "OpenRouter"

完全なカタログを取得する代わりに固定のモデルリストをピン留めするには、fetch: false を設定し、モデルを自分でリストアップします：

      models:
        default: ["anthropic/claude-3.5-sonnet", "openai/gpt-4o", "meta-llama/llama-3-70b-instruct"]
        fetch: false

各ユーザーが .env から読み込むのではなく、LibreChat UI を通じて独自のキーを提供できるようにするには、apiKey: "user_provided" を設定します。これにより、ユーザーが endpoint を選択した際にキー入力フィールドが表示されるようになります。

注記

• fetch: true を設定すると、LibreChat は OpenRouter からモデルリスト全体を読み込むため、新しいモデルが自動的に表示されるようになります。default 配列は初期選択のみに使用されます。
• dropParams: ["stop"] は、リクエストから stop パラメータを除去します。OpenRouterのモデルは多様なストップトークンを使用するため、これを除去することで互換性のエラーを回避できます。
• 402 Payment Required というレスポンスは LibreChat ではなく OpenRouter から返されるものです。OpenRouter アカウントにクレジットを追加するか、無料のモデルを選択してから再試行してください。