Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • Anda dapat menentukan model mana yang ingin Anda sediakan dengan ANTHROPIC_MODELS.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

Catatan:

  • Claude Fable 5 disertakan dalam katalog model Anthropic default di LibreChat. Model kelas Fable/Mythos menggunakan profil Anthropic modern di LibreChat: konteks 1M, output maks 128K, adaptive thinking, prompt caching, dan dukungan thinkingDisplay untuk output penalaran yang diringkas atau dihilangkan.
  • endpoint Anthropic mendukung semua Shared Endpoint Settings melalui file konfigurasi librechat.yaml, termasuk streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate, dan titleEndpoint
  • Untuk mengonfigurasi Anthropic atau gateway yang kompatibel dengan Anthropic sebagai endpoint kustom terpisah, gunakan provider: "anthropic".

Vertex AI

LibreChat mendukung penggunaan model Anthropic Claude melalui Google Cloud Vertex AI. Ini berguna jika Anda:

  • Sudah memiliki infrastruktur Google Cloud
  • Ingin menggunakan penagihan dan kredensial GCP Anda yang sudah ada
  • Perlu mematuhi persyaratan residensi data regional

Pengaturan Cepat (Variabel Lingkungan)

Atur variabel lingkungan berikut untuk mengaktifkan Anthropic melalui Vertex AI:

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true

# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global

# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

Prasyarat

  1. Google Cloud Project dengan Vertex AI API diaktifkan
  2. Service Account dengan peran berikut:
    • Vertex AI User (roles/aiplatform.user)
    • Atau Vertex AI Administrator untuk akses penuh
  3. Model Claude diaktifkan di Vertex AI Model Garden Anda
  4. Service Account Key (file JSON) yang telah diunduh dan dapat diakses oleh LibreChat

Konfigurasi Lanjutan

Untuk pemetaan nama model dan pengaturan lanjutan (mirip dengan konfigurasi Azure OpenAI), gunakan file librechat.yaml:

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

Untuk opsi konfigurasi YAML yang mendetail, lihat Anthropic Vertex AI Configuration.

Bagaimana panduan ini?