OpenRouter

OpenRouter merutekan permintaan ke ratusan model dari OpenAI, Anthropic, Google, Meta, Mistral, dan penyedia lainnya melalui satu endpoint yang kompatibel dengan OpenAI.

Dapatkan API key

Buat akun di openrouter.ai dan buat kunci dari halaman Keys. Kunci tersebut dimulai dengan sk-or-v1-. Tambahkan ke file .env Anda:

OPENROUTER_KEY=sk-or-v1-your-key-here

Konfigurasi

Tambahkan endpoint di bawah endpoints.custom dalam librechat.yaml Anda:

    - name: "OpenRouter"
      apiKey: "${OPENROUTER_KEY}"
      baseURL: "https://openrouter.ai/api/v1"
      models:
        default: ["meta-llama/llama-3-70b-instruct"]
        fetch: true
      titleConvo: true
      titleModel: "meta-llama/llama-3-70b-instruct"
      dropParams: ["stop"]
      modelDisplayLabel: "OpenRouter"

Untuk menyematkan daftar model tetap alih-alih mengambil katalog lengkap, atur fetch: false dan cantumkan modelnya sendiri:

      models:
        default: ["anthropic/claude-3.5-sonnet", "openai/gpt-4o", "meta-llama/llama-3-70b-instruct"]
        fetch: false

Agar setiap pengguna dapat memasukkan kunci mereka sendiri melalui UI LibreChat alih-alih membacanya dari .env, atur apiKey: "user_provided". Pengguna kemudian akan melihat kolom input kunci saat mereka memilih endpoint tersebut.

Catatan

• Dengan fetch: true, LibreChat memuat daftar model lengkap dari OpenRouter sehingga model baru akan muncul secara otomatis. Array default hanyalah pilihan awal.
• dropParams: ["stop"] menghapus parameter stop dari permintaan. Model OpenRouter menggunakan token henti yang bervariasi, dan menghapusnya akan menghindari kesalahan kompatibilitas.
• Respons 402 Payment Required berasal dari OpenRouter, bukan LibreChat. Tambahkan kredit atau pilih model gratis di akun OpenRouter Anda, lalu coba lagi.