Aangepaste endpoints

Voeg aangepaste AI-providers zoals OpenRouter, Ollama en Anthropic-compatibele gateways toe aan LibreChat met behulp van librechat.yaml

LibreChat ondersteunt OpenAI API-compatibele services als aangepaste endpoints. Het ondersteunt ook Anthropic-compatibele aangepaste endpoints met provider: "anthropic". Je configureert endpoints in librechat.yaml, slaat API-sleutels op in .env en koppelt de configuratie via docker-compose.override.yml voor Docker-implementaties.

Welk bestand doet wat?

De configuratie van een custom endpoint omvat drie bestanden, elk met een specifieke rol:

librechat.yaml -- Definieert je aangepaste endpoints (naam, API URL, modellen, weergave-instellingen)
.env -- Slaat gevoelige waarden op zoals API-sleutels (waarnaar wordt verwezen vanuit librechat.yaml met de ${VAR_NAME} syntaxis)
docker-compose.override.yml -- Mount librechat.yaml in de Docker container (alleen voor Docker-gebruikers)

Voor een volledig overzicht van hoe deze bestanden samenwerken, zie het Configuration Overview.

Voordat je begint

Deze handleiding gaat ervan uit dat je LibreChat hebt geïnstalleerd en dat het draait. Zo niet, voltooi dan eerst de Docker setup.

Stap 1. Koppel librechat.yaml (alleen Docker)

Docker-gebruikers moeten librechat.yaml als een volume mounten zodat de container het kan lezen. Sla deze stap over als je LibreChat lokaal draait zonder Docker.

cp docker-compose.override.yml.example docker-compose.override.yml

Bewerk docker-compose.override.yml en zorg ervoor dat de volume mount niet langer in commentaar staat:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

Lees meer: Docker Override Guide

Stap 2. Configureer librechat.yaml

Maak een librechat.yaml bestand aan in de hoofdmap van het project (als dit nog niet bestaat) en voeg je endpoint configuratie toe. Zie de librechat.yaml guide voor gedetailleerde installatie-instructies.

Hier is een voorbeeld met OpenRouter, Ollama en een Anthropic-compatibele gateway:

version: 1.3.13
cache: true
endpoints:
  custom:
    - name: 'OpenRouter'
      apiKey: '${OPENROUTER_KEY}'
      baseURL: 'https://openrouter.ai/api/v1'
      models:
        default: ['meta-llama/llama-3-70b-instruct']
        fetch: true
      titleConvo: true
      titleModel: 'meta-llama/llama-3-70b-instruct'
      dropParams: ['stop']
      modelDisplayLabel: 'OpenRouter'
    - name: 'Ollama'
      apiKey: 'ollama'
      baseURL: 'http://host.docker.internal:11434/v1/'
      models:
        default: ['llama3:latest', 'command-r', 'mixtral', 'phi3']
        fetch: true
      titleConvo: true
      titleModel: 'current_model'
    - name: 'Claude-Compatible'
      provider: 'anthropic'
      apiKey: '${ANTHROPIC_API_KEY}'
      baseURL: 'https://api.anthropic.com'
      headers:
        anthropic-version: '2023-06-01'
      models:
        default: ['claude-sonnet-4-5']
        fetch: false
      titleConvo: true
      titleModel: 'claude-sonnet-4-5'

Bekijk alle compatibele providers in de sectie AI Endpoints. Voor de volledige veldreferentie, zie Custom Endpoint Object Structure.

Anthropic-compatibele endpoints

Gebruik provider: "anthropic" alleen voor endpoints die de native Anthropic Messages API spreken. Voor OpenAI-compatibele gateways die enkel Anthropic-modellen aanbieden, laat provider weg en gebruik de reguliere OpenAI-compatibele custom endpoint-vorm.

Configuratie van API-sleutel

Bij het configureren van API-sleutels in aangepaste endpoints heb je drie opties:

Omgevingsvariabele (aanbevolen): apiKey: "${OPENROUTER_KEY}" -- leest vanuit .env
apiKey: "user_provided" -- gebruikers voeren hun eigen sleutel in via de UI
Directe waarde (niet aanbevolen): apiKey: "sk-your-actual-key" -- opgeslagen in platte tekst

Stap 3. Omgevingsvariabelen instellen

Voeg de API-sleutels waarnaar wordt verwezen in je librechat.yaml toe aan het .env bestand:

OPENROUTER_KEY=your_openrouter_api_key

Elke ${VARIABLE_NAME} in librechat.yaml moet een overeenkomstige vermelding hebben in .env.

Stap 4. Herstarten en verifiëren

Nadat je configuratiebestanden hebt bewerkt, moet je LibreChat opnieuw opstarten om de wijzigingen door te voeren.

docker compose down && docker compose up -d

Stop het actieve proces (Ctrl+C) en start opnieuw:

npm run backend

Open LibreChat in je browser. Je aangepaste endpoints zouden moeten verschijnen in het dropdown-menu voor endpoint-selectie.

Zie je jouw endpoint niet?

Controleer de serverlogs op configuratiefouten:

docker compose logs api

Veelvoorkomende problemen: YAML-syntaxfouten, ontbrekende env-variabelen of librechat.yaml niet gekoppeld in Docker. Valideer je YAML met de YAML Validator.

OpenRouter verschijnt nog steeds niet

Voor OpenRouter specifiek, verifieer de keten van drie bestanden:

.env bevat OPENROUTER_KEY=...
librechat.yaml heeft apiKey: "${OPENROUTER_KEY}" onder de OpenRouter custom endpoint
Docker-gebruikers hebben librechat.yaml gemount in docker-compose.override.yml

Start vervolgens opnieuw met:

docker compose down && docker compose up -d

Als de endpoint verschijnt maar 402 Payment Required retourneert, heeft het verzoek OpenRouter succesvol bereikt en ligt het probleem meestal aan accounttegoeden, facturering of modelbeschikbaarheid op OpenRouter.