OpenRouter

OpenRouter routeert verzoeken naar honderden modellen van OpenAI, Anthropic, Google, Meta, Mistral en andere aanbieders via één enkel OpenAI-compatibel endpoint.

Een API-sleutel verkrijgen

Maak een account aan op openrouter.ai en genereer een sleutel via de Keys page. De sleutel begint met sk-or-v1-. Voeg deze toe aan je .env bestand:

OPENROUTER_KEY=sk-or-v1-your-key-here

Configuratie

Voeg het endpoint toe onder endpoints.custom in je librechat.yaml:

    - name: "OpenRouter"
      apiKey: "${OPENROUTER_KEY}"
      baseURL: "https://openrouter.ai/api/v1"
      models:
        default: ["meta-llama/llama-3-70b-instruct"]
        fetch: true
      titleConvo: true
      titleModel: "meta-llama/llama-3-70b-instruct"
      dropParams: ["stop"]
      modelDisplayLabel: "OpenRouter"

Om een vaste modellijst vast te pinnen in plaats van de volledige catalogus op te halen, stelt u fetch: false in en somt u de modellen zelf op:

      models:
        default: ["anthropic/claude-3.5-sonnet", "openai/gpt-4o", "meta-llama/llama-3-70b-instruct"]
        fetch: false

Om elke gebruiker zijn eigen sleutel te laten invoeren via de LibreChat UI in plaats van er een te lezen uit .env, stel apiKey: "user_provided" in. Gebruikers zien dan een invoerveld voor de sleutel wanneer ze het endpoint selecteren.

Opmerkingen

• Met fetch: true laadt LibreChat de volledige modellijst van OpenRouter, zodat nieuwe modellen automatisch verschijnen. De default array is enkel de initiële selectie.
• dropParams: ["stop"] verwijdert de stop parameter uit verzoeken. OpenRouter modellen gebruiken uiteenlopende stop-tokens, en het verwijderen ervan voorkomt compatibiliteitsfouten.
• Een 402 Payment Required respons is afkomstig van OpenRouter, niet van LibreChat. Voeg credits toe of kies een gratis model in je OpenRouter-account en probeer het daarna opnieuw.