Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

OpenRouter

Configurar OpenRouter como un endpoint personalizado en LibreChat.

OpenRouter enruta las solicitudes a cientos de modelos de OpenAI, Anthropic, Google, Meta, Mistral y otros proveedores a través de un único endpoint compatible con OpenAI.

Obtener una API key

Cree una cuenta en openrouter.ai y genere una clave desde la página de Keys. La clave comienza con sk-or-v1-. Añádala a su archivo .env:

OPENROUTER_KEY=sk-or-v1-your-key-here

Use OPENROUTER_KEY, no OPENROUTER_API_KEY

La variable debe llamarse OPENROUTER_KEY. Nombrarla OPENROUTER_API_KEY redirige también el endpoint integrado de OpenAI a través de OpenRouter, lo cual casi nunca es lo que se desea.

Configuración

Agregue el endpoint bajo endpoints.custom en su librechat.yaml:

    - name: "OpenRouter"
      apiKey: "${OPENROUTER_KEY}"
      baseURL: "https://openrouter.ai/api/v1"
      models:
        default: ["meta-llama/llama-3-70b-instruct"]
        fetch: true
      titleConvo: true
      titleModel: "meta-llama/llama-3-70b-instruct"
      dropParams: ["stop"]
      modelDisplayLabel: "OpenRouter"

Para fijar una lista de modelos específica en lugar de obtener el catálogo completo, establezca fetch: false y enumere los modelos usted mismo:

      models:
        default: ["anthropic/claude-3.5-sonnet", "openai/gpt-4o", "meta-llama/llama-3-70b-instruct"]
        fetch: false

Para permitir que cada usuario proporcione su propia clave a través de la interfaz de usuario de LibreChat en lugar de leer una desde .env, establezca apiKey: "user_provided". Los usuarios verán entonces un campo de entrada de clave cuando seleccionen el endpoint.

Notas

  • Con fetch: true, LibreChat carga la lista completa de modelos desde OpenRouter para que los nuevos modelos aparezcan automáticamente. El array default es solo la selección inicial.
  • dropParams: ["stop"] elimina el parámetro stop de las solicitudes. Los modelos de OpenRouter utilizan diversos tokens de parada, y eliminarlo evita errores de compatibilidad.
  • Una respuesta 402 Payment Required proviene de OpenRouter, no de LibreChat. Añade créditos o elige un modelo gratuito en tu cuenta de OpenRouter y vuelve a intentarlo.

¿Qué te parece esta guía?