Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Benutzerdefinierte Konfiguration

Erstellen, einbinden und konfigurieren Sie die librechat.yaml Datei für benutzerdefinierte KI-endpoints und erweiterte LibreChat-Einstellungen

Was ist librechat.yaml?

Die librechat.yaml Datei ist die Hauptkonfigurationsdatei von LibreChat für benutzerdefinierte KI-endpoints, Modelleinstellungen, Schnittstellenoptionen und erweiterte Funktionen wie MCP-Server und Agents. Sie ist optional – LibreChat funktioniert mit sinnvollen Standardeinstellungen, falls die Datei nicht existiert.

Befolgen Sie die unten stehenden Schritte, um die Datei zu erstellen, sie für Ihren Bereitstellungstyp einzubinden und zu überprüfen, ob sie funktioniert.

Wenn Sie sich nur eine Sache merken

Bei Docker-Installationen reicht es nicht aus, librechat.yaml zu bearbeiten. Die Datei muss im Projektstammverzeichnis vorhanden sein, in den API-Container eingebunden werden und LibreChat muss neu gestartet werden, bevor die Änderungen in der UI sichtbar werden.

Einrichtung

Datei suchen oder erstellen

Erstellen Sie eine neue librechat.yaml in Ihrem Projektstammverzeichnis (dasselbe Verzeichnis wie Ihre .env Datei):

touch librechat.yaml

Sie können auch die Beispielkonfiguration als Ausgangspunkt kopieren:

cp librechat.example.yaml librechat.yaml

Alternativer Dateipfad

Sie können einen benutzerdefinierten Dateipfad mithilfe der Umgebungsvariable CONFIG_PATH festlegen:

CONFIG_PATH="/alternative/path/to/librechat.yaml"

Konfigurationsdatei einbinden

Docker benötigt eine Volume-Einbindung, um auf Ihre librechat.yaml-Datei innerhalb des Containers zuzugreifen.

Kopieren Sie die Beispiel-Override-Datei:

cp docker-compose.override.yml.example docker-compose.override.yml

Bearbeiten Sie die docker-compose.override.yml und stellen Sie sicher, dass die Volume-Einbindung für librechat.yaml nicht auskommentiert ist:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

Dies verwendet das docker-compose.override.yml Muster -- Docker Compose führt es automatisch mit der Haupt-docker-compose.yml zusammen, sodass Ihre Anpassungen Updates überstehen.

LibreChat neu starten

docker compose down && docker compose up -d

Überprüfen, ob es funktioniert

Öffnen Sie LibreChat in Ihrem Browser. Wenn Ihre Konfiguration benutzerdefinierte endpoints enthält, sollten Sie diese im Dropdown-Menü zur Modellauswahl sehen.

Wenn der Server nicht startet, überprüfen Sie die Protokolle auf Validierungsfehler:

docker compose logs api

Beispiel: Hinzufügen von OpenRouter

Dieses Beispiel führt durch das Hinzufügen von OpenRouter als benutzerdefinierten endpoint – eine der beliebtesten Konfigurationen.

1. Holen Sie sich einen API-Schlüssel von openrouter.ai/keys.

2. Fügen Sie den Schlüssel zu Ihrer .env Datei hinzu:

OPENROUTER_KEY=sk-or-v1-your-key-here

Name der Umgebungsvariablen

Verwenden Sie OPENROUTER_KEY, nicht OPENROUTER_API_KEY. Die Verwendung von OPENROUTER_API_KEY führt dazu, dass auch der OpenAI endpoint überschrieben wird, um OpenRouter zu nutzen.

3. Fügen Sie den endpoint zu librechat.yaml hinzu:

version: 1.3.5
cache: true
endpoints:
  custom:
    - name: "OpenRouter"
      apiKey: "${OPENROUTER_KEY}"
      baseURL: "https://openrouter.ai/api/v1"
      models:
        default: ["meta-llama/llama-3-70b-instruct"]
        fetch: true
      titleConvo: true
      titleModel: "meta-llama/llama-3-70b-instruct"
      dropParams: ["stop"]
      modelDisplayLabel: "OpenRouter"

4. Starten Sie LibreChat neu (siehe Neustart-Befehle oben) und wählen Sie OpenRouter aus der Modellauswahl aus.

Für die vollständige kommentierte Konfigurationsdatei mit weiteren endpoint-Beispielen siehe die Beispielkonfiguration.

Referenz

Für eine detaillierte Dokumentation auf Feldebene siehe die untenstehenden Referenzseiten.

Fehlerbehebung

Änderungen werden in LibreChat nicht angezeigt

Wenn du librechat.yaml bearbeitet hast und sich in der UI nichts geändert hat:

  1. Stellen Sie sicher, dass sich die Datei im LibreChat-Projektstammverzeichnis befindet, es sei denn, Sie haben CONFIG_PATH festgelegt.
  2. Stellen Sie für Docker sicher, dass die Datei in docker-compose.override.yml gemountet ist.
  3. Starten Sie LibreChat mit docker compose down && docker compose up -d neu.
  4. Überprüfen Sie die API-Logs mit docker compose logs api.
  5. Validieren Sie die Datei mit dem YAML Validator.

Benutzerdefinierte endpoints wie OpenRouter erscheinen erst, wenn alle drei Voraussetzungen erfüllt sind: .env enthält den Schlüssel, librechat.yaml definiert den endpoint und Docker kann die eingebundene Konfigurationsdatei lesen.

Konfigurationsvalidierung

Konfigurationsvalidierung

LibreChat wird mit einem Fehler (Exit-Code 1) beendet, wenn librechat.yaml Validierungsfehler enthält. Dieses Fail-Fast-Verhalten erkennt Konfigurationsprobleme frühzeitig.

Um Ihre YAML-Syntax vor dem Neustart zu validieren, verwenden Sie den YAML Validator oder yamlchecker.com.

Server wird beim Start sofort beendet

Wenn Ihr Server unmittelbar nach dem Start beendet wird, liegt dies wahrscheinlich an einem Konfigurationsvalidierungsfehler.

Zur Diagnose:

  1. Überprüfen Sie die Server-Logs: docker compose logs api
  2. Überprüfen Sie Ihre YAML-Syntax mit dem YAML Validator
  3. Häufige Fehler: falsche Einrückung, fehlende Doppelpunkte, unbekannte Schlüssel, ungültige Werte

Temporärer Workaround (nicht für die Produktion empfohlen):

CONFIG_BYPASS_VALIDATION=true

Warnung

CONFIG_BYPASS_VALIDATION=true veranlasst den Server dazu, die Validierung zu überspringen und die Standardkonfiguration zu verwenden. Beheben Sie stattdessen immer die Validierungsfehler.

Wie finden Sie diese Anleitung?