OpenRouter

OpenRouter achemine les requêtes vers des centaines de modèles provenant d'OpenAI, Anthropic, Google, Meta, Mistral et d'autres fournisseurs via un point de terminaison unique compatible avec OpenAI.

Obtenir une clé API

Créez un compte sur openrouter.ai et générez une clé depuis la page Keys. La clé commence par sk-or-v1-. Ajoutez-la à votre fichier .env :

OPENROUTER_KEY=sk-or-v1-your-key-here

Utilisez OPENROUTER_KEY, et non OPENROUTER_API_KEY

La variable doit être nommée OPENROUTER_KEY. La nommer OPENROUTER_API_KEY redirige également l'endpoint OpenAI intégré via OpenRouter, ce qui n'est presque jamais ce que vous souhaitez.

Configuration

Ajoutez l'endpoint sous endpoints.custom dans votre librechat.yaml :

    - name: "OpenRouter"
      apiKey: "${OPENROUTER_KEY}"
      baseURL: "https://openrouter.ai/api/v1"
      models:
        default: ["meta-llama/llama-3-70b-instruct"]
        fetch: true
      titleConvo: true
      titleModel: "meta-llama/llama-3-70b-instruct"
      dropParams: ["stop"]
      modelDisplayLabel: "OpenRouter"

Pour épingler une liste de modèles fixe au lieu de récupérer le catalogue complet, définissez fetch: false et listez les modèles vous-même :

      models:
        default: ["anthropic/claude-3.5-sonnet", "openai/gpt-4o", "meta-llama/llama-3-70b-instruct"]
        fetch: false

Pour permettre à chaque utilisateur de fournir sa propre clé via l'interface utilisateur de LibreChat au lieu d'en lire une depuis .env, définissez apiKey: "user_provided". Les utilisateurs verront alors un champ de saisie de clé lorsqu'ils sélectionneront l'endpoint.

Notes

Avec fetch: true, LibreChat charge la liste complète des modèles depuis OpenRouter afin que les nouveaux modèles apparaissent automatiquement. Le tableau default ne constitue que la sélection initiale.
dropParams: ["stop"] supprime le paramètre stop des requêtes. Les modèles OpenRouter utilisent des jetons d'arrêt variés, et sa suppression permet d'éviter les erreurs de compatibilité.
Une réponse 402 Payment Required provient d'OpenRouter, et non de LibreChat. Ajoutez des crédits ou choisissez un modèle gratuit dans votre compte OpenRouter, puis réessayez.