Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • Możesz określić, które modele mają być dostępne, używając ANTHROPIC_MODELS.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

Uwagi:

  • Claude Fable 5 jest zawarty w domyślnym katalogu modeli Anthropic w LibreChat. Modele klasy Fable/Mythos korzystają z nowoczesnego profilu Anthropic w LibreChat: 1 mln kontekstu, 128 tys. maksymalnej długości wyjściowej, adaptacyjne myślenie (adaptive thinking), buforowanie promptów (prompt caching) oraz obsługa thinkingDisplay dla podsumowanych lub pominiętych wyników rozumowania.
  • Endpoint Anthropic obsługuje wszystkie Shared Endpoint Settings za pośrednictwem pliku konfiguracyjnego librechat.yaml, w tym streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate oraz titleEndpoint
  • Aby skonfigurować Anthropic lub bramę kompatybilną z Anthropic jako oddzielny niestandardowy endpoint, użyj provider: "anthropic".

Vertex AI

LibreChat obsługuje uruchamianie modeli Anthropic Claude za pośrednictwem Google Cloud Vertex AI. Jest to przydatne, jeśli:

  • Masz już infrastrukturę Google Cloud
  • Chcesz użyć swojego istniejącego rozliczenia i danych uwierzytelniających GCP
  • Konieczność przestrzegania regionalnych wymogów dotyczących przechowywania danych

Szybka konfiguracja (zmienne środowiskowe)

Ustaw następujące zmienne środowiskowe, aby włączyć Anthropic przez Vertex AI:

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true

# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global

# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

Wymagania wstępne

  1. Projekt Google Cloud z włączonym interfejsem Vertex AI API
  2. Konto serwisowe z następującymi rolami:
    • Vertex AI User (roles/aiplatform.user)
    • Lub Vertex AI Administrator dla pełnego dostępu
  3. Modele Claude włączone w Twoim Vertex AI Model Garden
  4. Klucz konta serwisowego (plik JSON) pobrany i dostępny dla LibreChat

Zaawansowana konfiguracja

Aby uzyskać mapowanie nazw modeli i ustawienia zaawansowane (podobnie jak w konfiguracji Azure OpenAI), użyj pliku librechat.yaml:

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

Aby uzyskać szczegółowe opcje konfiguracji YAML, zobacz Konfiguracja Anthropic Vertex AI.

Jaka jest ta instrukcja?