Özel Endpoint'ler

OpenRouter, Ollama ve Anthropic uyumlu ağ geçitleri gibi özel AI sağlayıcılarını librechat.yaml kullanarak LibreChat'e ekleyin

LibreChat, özel uç noktalar (endpoints) olarak OpenAI API uyumlu servisleri destekler. Ayrıca provider: "anthropic" ile Anthropic uyumlu özel uç noktaları da destekler. Uç noktaları librechat.yaml içinde yapılandırır, API anahtarlarını .env dosyasında saklar ve Docker dağıtımları için yapılandırmayı docker-compose.override.yml aracılığıyla bağlarsınız.

Hangi Dosya Ne İşe Yarar?

Özel endpoint kurulumu, her biri belirli bir role sahip üç dosyayı içerir:

librechat.yaml -- Özel endpoint'lerinizi (ad, API URL, modeller, görüntüleme ayarları) tanımlar
.env -- API anahtarları gibi hassas değerleri depolar (librechat.yaml dosyasından ${VAR_NAME} sözdizimi kullanılarak referans verilir)
docker-compose.override.yml -- librechat.yaml dosyasını Docker konteynerine bağlar (yalnızca Docker kullanıcıları için)

Bu dosyaların birlikte nasıl çalıştığına dair tam bir genel bakış için Configuration Overview bölümüne bakın.

Başlamadan Önce

Bu kılavuz, LibreChat'in yüklü ve çalışır durumda olduğunu varsayar. Değilse, önce Docker setup işlemini tamamlayın.

Adım 1. librechat.yaml dosyasını bağlayın (Sadece Docker)

Docker kullanıcılarının librechat.yaml dosyasını bir birim (volume) olarak bağlaması gerekir, böylece konteyner dosyayı okuyabilir. LibreChat'i Docker olmadan yerel olarak çalıştırıyorsanız bu adımı atlayın.

cp docker-compose.override.yml.example docker-compose.override.yml

docker-compose.override.yml dosyasını düzenleyin ve birim (volume) bağlamasının yorum satırı olmadığından emin olun:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

Daha fazla bilgi edinin: Docker Override Guide

Adım 2. librechat.yaml dosyasını yapılandırın

Proje kök dizininde bir librechat.yaml dosyası oluşturun (eğer mevcut değilse) ve endpoint yapılandırmanızı ekleyin. Ayrıntılı kurulum talimatları için librechat.yaml kılavuzuna bakın.

İşte OpenRouter, Ollama ve Anthropic uyumlu bir ağ geçidi ile bir örnek:

version: 1.3.13
cache: true
endpoints:
  custom:
    - name: 'OpenRouter'
      apiKey: '${OPENROUTER_KEY}'
      baseURL: 'https://openrouter.ai/api/v1'
      models:
        default: ['meta-llama/llama-3-70b-instruct']
        fetch: true
      titleConvo: true
      titleModel: 'meta-llama/llama-3-70b-instruct'
      dropParams: ['stop']
      modelDisplayLabel: 'OpenRouter'
    - name: 'Ollama'
      apiKey: 'ollama'
      baseURL: 'http://host.docker.internal:11434/v1/'
      models:
        default: ['llama3:latest', 'command-r', 'mixtral', 'phi3']
        fetch: true
      titleConvo: true
      titleModel: 'current_model'
    - name: 'Claude-Compatible'
      provider: 'anthropic'
      apiKey: '${ANTHROPIC_API_KEY}'
      baseURL: 'https://api.anthropic.com'
      headers:
        anthropic-version: '2023-06-01'
      models:
        default: ['claude-sonnet-4-5']
        fetch: false
      titleConvo: true
      titleModel: 'claude-sonnet-4-5'

Tüm uyumlu sağlayıcılara AI Endpoints bölümünden göz atın. Tam alan referansı için Custom Endpoint Object Structure sayfasına bakın.

Anthropic ile Uyumlu endpoint'ler

provider: "anthropic" ifadesini yalnızca yerel Anthropic Messages API ile konuşan endpoint'ler için kullanın. Yalnızca Anthropic modellerini sunan OpenAI uyumlu ağ geçitleri için provider kısmını atlayın ve normal OpenAI uyumlu özel endpoint biçimini kullanın.

API Anahtarı Yapılandırması

Özel endpoint'lerde API anahtarlarını yapılandırırken üç seçeneğiniz vardır:

Ortam değişkeni (önerilen): apiKey: "${OPENROUTER_KEY}" -- .env dosyasından okur
User provided: apiKey: "user_provided" -- kullanıcılar kendi anahtarlarını arayüz üzerinden girerler
Doğrudan değer (önerilmez): apiKey: "sk-your-actual-key" -- düz metin olarak saklanır

Adım 3. Ortam Değişkenlerini Ayarlayın

librechat.yaml dosyanızda referans verilen API anahtarlarını .env dosyasına ekleyin:

OPENROUTER_KEY=your_openrouter_api_key

librechat.yaml dosyasındaki her ${VARIABLE_NAME} ifadesinin .env dosyasında eşleşen bir girdisi olmalıdır.

Adım 4. Yeniden Başlatın ve Doğrulayın

Yapılandırma dosyalarını düzenledikten sonra, değişikliklerin geçerli olması için LibreChat'i yeniden başlatmanız gerekir.

docker compose down && docker compose up -d

Çalışan işlemi durdurun (Ctrl+C) ve yeniden başlatın:

npm run backend

LibreChat'i tarayıcınızda açın. Özel endpoint'leriniz, endpoint seçici açılır menüsünde görünmelidir.

Endpoint'inizi Göremiyor musunuz?

Yapılandırma hataları için sunucu günlüklerini kontrol edin:

docker compose logs api

Yaygın sorunlar: YAML sözdizimi hataları, eksik env değişkenleri veya librechat.yaml dosyasının Docker içinde bağlanmamış olması. YAML dosyanızı YAML Validator ile doğrulayın.

OpenRouter Hâlâ Görünmüyor

Özellikle OpenRouter için, üç dosyalık zinciri doğrulayın:

.env dosyası OPENROUTER_KEY=... içerir.
librechat.yaml, OpenRouter özel endpoint'i altında apiKey: "${OPENROUTER_KEY}" değerine sahiptir
Docker kullanıcıları librechat.yaml dosyasını docker-compose.override.yml içinde bağladı (mounted)

Ardından şu komutla yeniden başlatın:

docker compose down && docker compose up -d

Eğer endpoint görünüyorsa ancak 402 Payment Required hatası dönüyorsa, istek OpenRouter'a başarıyla ulaşmış demektir ve sorun genellikle OpenRouter üzerindeki hesap kredileri, faturalandırma veya model kullanılabilirliği ile ilgilidir.