Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • Sie können mit ANTHROPIC_MODELS festlegen, welche Modelle verfügbar sein sollen.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

Hinweise:

  • Claude Fable 5 ist im standardmäßigen Anthropic-Modellkatalog von LibreChat enthalten. Modelle der Fable/Mythos-Klasse verwenden das moderne Anthropic-Profil in LibreChat: 1M Kontext, 128K maximale Ausgabe, adaptives Denken (adaptive thinking), Prompt-Caching und thinkingDisplay-Unterstützung für zusammengefasste oder ausgelassene Denkprozesse.
  • Der Anthropic endpoint unterstützt alle Shared Endpoint Settings über die Konfigurationsdatei librechat.yaml, einschließlich streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate und titleEndpoint.
  • Um Anthropic oder ein mit Anthropic kompatibles Gateway als separaten benutzerdefinierten endpoint zu konfigurieren, verwenden Sie provider: "anthropic".

Vertex AI

LibreChat unterstützt die Ausführung von Anthropic Claude-Modellen über Google Cloud Vertex AI. Dies ist nützlich, wenn Sie:

  • Sie verfügen bereits über eine Google Cloud-Infrastruktur
  • Möchten Sie Ihre bestehende GCP-Abrechnung und Ihre Anmeldedaten verwenden
  • Muss regionale Anforderungen an die Datenresidenz erfüllen

Schnelleinrichtung (Umgebungsvariablen)

Setzen Sie die folgenden Umgebungsvariablen, um Anthropic über Vertex AI zu aktivieren:

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true

# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global

# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

Voraussetzungen

  1. Google Cloud Project mit aktivierter Vertex AI API
  2. Service Account mit den folgenden Rollen:
    • Vertex AI User (roles/aiplatform.user)
    • Oder Vertex AI Administrator für vollen Zugriff
  3. Claude-Modelle, die in Ihrem Vertex AI Model Garden aktiviert sind
  4. Service Account Key (JSON-Datei), heruntergeladen und für LibreChat zugänglich

Erweiterte Konfiguration

Für die Modellnamen-Zuordnung und erweiterte Einstellungen (ähnlich der Azure OpenAI-Konfiguration) verwenden Sie die librechat.yaml Datei:

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

Für detaillierte YAML-Konfigurationsoptionen siehe Anthropic Vertex AI Configuration.

Wie finden Sie diese Anleitung?