OpenRouter

O OpenRouter roteia solicitações para centenas de modelos da OpenAI, Anthropic, Google, Meta, Mistral e outros provedores através de um único endpoint compatível com a OpenAI.

Obtenha uma API key

Crie uma conta em openrouter.ai e gere uma chave na página de Keys. A chave começa com sk-or-v1-. Adicione-a ao seu arquivo .env:

OPENROUTER_KEY=sk-or-v1-your-key-here

Configuração

Adicione o endpoint em endpoints.custom no seu librechat.yaml:

    - name: "OpenRouter"
      apiKey: "${OPENROUTER_KEY}"
      baseURL: "https://openrouter.ai/api/v1"
      models:
        default: ["meta-llama/llama-3-70b-instruct"]
        fetch: true
      titleConvo: true
      titleModel: "meta-llama/llama-3-70b-instruct"
      dropParams: ["stop"]
      modelDisplayLabel: "OpenRouter"

Para fixar uma lista de modelos específica em vez de buscar o catálogo completo, defina fetch: false e liste os modelos você mesmo:

      models:
        default: ["anthropic/claude-3.5-sonnet", "openai/gpt-4o", "meta-llama/llama-3-70b-instruct"]
        fetch: false

Para permitir que cada usuário forneça sua própria chave através da interface do LibreChat em vez de ler uma do .env, defina apiKey: "user_provided". Os usuários verão então um campo de entrada de chave quando selecionarem o endpoint.

Notas

• Com fetch: true, o LibreChat carrega a lista completa de modelos do OpenRouter para que novos modelos apareçam automaticamente. O array default é apenas a seleção inicial.
• dropParams: ["stop"] remove o parâmetro stop das requisições. Modelos do OpenRouter usam tokens de parada variados, e removê-lo evita erros de compatibilidade.
• Uma resposta 402 Payment Required vem do OpenRouter, não do LibreChat. Adicione créditos ou escolha um modelo gratuito na sua conta do OpenRouter e tente novamente.