Helm Chart

Bitte befolge diese Anleitung, um LibreChat mit Helm auf Kubernetes bereitzustellen, und passe sie bei Bedarf an deinen spezifischen Anwendungsfall an. Weitere von der Community bereitgestellte Helm Charts sind unten im Abschnitt Community Helm Charts aufgeführt.

Voraussetzungen

• Ein laufender Kubernetes-Cluster
• Lokale Installationen von kubectl und Helm

Konfiguration

1. Verwenden Sie den Credentials Generator, um sichere Werte für CREDS_KEY, JWT_SECRET, JWT_REFRESH_SECRET und MEILI_MASTER_KEY zu generieren. Platzieren Sie diese wie folgt in einem Kubernetes Secret (wenn Sie den Namen des Secrets ändern, denken Sie daran, Ihre Helm-Werte zu aktualisieren):

apiVersion: v1
kind: Secret
metadata:
  name: librechat-credentials-env
  namespace: <librechat-chart-namespace>
type: Opaque
stringData:
  CREDS_KEY: <generated value>
  JWT_SECRET: <generated value>
  JWT_REFRESH_SECRET: <generated value>
  MEILI_MASTER_KEY: <generated value>

2. Fügen Sie diesem selben Secret alle erforderlichen API-Schlüssel für LLM-Anbieter hinzu:

apiVersion: v1
kind: Secret
metadata:
  name: librechat-credentials-env
  namespace: <librechat-chart-namespace>
. . . .
 
  OPENAI_API_KEY: <your secret value>

3. Wende das Secret auf den Cluster an:

Helm Chart installieren

Um das helm chart zu installieren, führen Sie Folgendes aus:

helm install <deployment-name> oci://ghcr.io/danny-avila/librechat-chart/librechat

Ähnlich wie bei anderen Helm-Charts gibt es eine values file, die die Standardeinstellungen beschreibt und angibt, welche Konfigurationsoptionen geändert werden können.

Erstellen Sie eine values.yaml Datei, die mit den Werten gefüllt ist, die Sie gegenüber den Standardwerten ändern möchten.

Installieren Sie das Helm-Chart: helm install librechat oci://ghcr.io/danny-avila/librechat-chart/librechat --values <values-override-filel>

Deinstallieren des Helm Charts

Um das Helm Chart zu deinstallieren: helm uninstall <deployment-name>

Beispiel: helm uninstall librechat

Migration von 1.x -> 2.x

Wenn Sie das Chart vor der Version 2.x verwendet haben, müssen Sie möglicherweise die value-Struktur aktualisieren.

1. Verschiebe die Konfiguration nach librechat.configEnv:

- env:
-     ALLOW_EMAIL_LOGIN: "true"
-     ALLOW_REGISTRATION: "true"
+ librechat:
+   configEnv:
+     ALLOW_REGISTRATION: "true"
+     ALLOW_EMAIL_LOGIN: "true"

2. Fassen Sie alle Secret-Werte in einem einzigen Secret zusammen, wie in Konfigurationsschritt 1 beschrieben.
3. Um eine externe MongoDB-Instanz zu nutzen, beziehen Sie sich auf die values file des Charts, deaktivieren Sie die entsprechenden Komponenten und ändern Sie den FQDN der MongoDB-Instanz. Dies wird empfohlen, wenn bereits Daten in dieser extern verwalteten MongoDB-Instanz vorhanden sind.

Community Helm Charts

• LibreChat Helm Chart von Blue Atlas Helm Charts # wird bald als veraltet markiert, da es hierher migriert wurde
• Eingereicht von @dimaby auf GitHub: PR #2879