OpenRouter

OpenRouter, OpenAI, Anthropic, Google, Meta, Mistral ve diğer sağlayıcılardan gelen yüzlerce modele yönelik istekleri, tek bir OpenAI uyumlu endpoint üzerinden yönlendirir.

Bir API anahtarı alın

openrouter.ai adresinde bir hesap oluşturun ve Keys page sayfasından bir anahtar oluşturun. Anahtar sk-or-v1- ile başlar. Bunu .env dosyanıza ekleyin:

OPENROUTER_KEY=sk-or-v1-your-key-here

Yapılandırma

librechat.yaml dosyanızda endpoints.custom altına endpoint'i ekleyin:

    - name: "OpenRouter"
      apiKey: "${OPENROUTER_KEY}"
      baseURL: "https://openrouter.ai/api/v1"
      models:
        default: ["meta-llama/llama-3-70b-instruct"]
        fetch: true
      titleConvo: true
      titleModel: "meta-llama/llama-3-70b-instruct"
      dropParams: ["stop"]
      modelDisplayLabel: "OpenRouter"

Tam bir kataloğu getirmek yerine sabit bir model listesini sabitlemek için fetch: false ayarını yapın ve modelleri kendiniz listeleyin:

      models:
        default: ["anthropic/claude-3.5-sonnet", "openai/gpt-4o", "meta-llama/llama-3-70b-instruct"]
        fetch: false

Her kullanıcının .env dosyasından bir anahtar okumak yerine LibreChat arayüzü üzerinden kendi anahtarını sağlamasına izin vermek için apiKey: "user_provided" ayarını yapın. Kullanıcılar, endpoint seçimini yaptıklarında bir anahtar giriş alanı göreceklerdir.

Notlar

• fetch: true ile LibreChat, OpenRouter'dan tam model listesini yükler, böylece yeni modeller otomatik olarak görünür. default dizisi yalnızca ilk seçimdir.
• dropParams: ["stop"] ifadesi, isteklerden stop parametresini çıkarır. OpenRouter modelleri çeşitli durdurma belirteçleri (stop tokens) kullanır ve bu parametrenin çıkarılması uyumluluk hatalarını önler.
• 402 Payment Required yanıtı LibreChat'ten değil, OpenRouter'dan gelmektedir. OpenRouter hesabınıza kredi ekleyin veya ücretsiz bir model seçin, ardından tekrar deneyin.