Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • ANTHROPIC_MODELS ile hangi modellerin kullanılabilir olmasını istediğinizi belirleyebilirsiniz.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

Notlar:

  • Claude Fable 5, LibreChat'in varsayılan Anthropic model kataloğuna dahildir. Fable/Mythos sınıfı modeller, LibreChat'te modern Anthropic profilini kullanır: 1M bağlam, 128K maksimum çıktı, uyarlanabilir düşünme, istem önbelleğe alma ve özetlenmiş veya atlanmış muhakeme çıktısı için thinkingDisplay desteği.
  • Anthropic endpoint, streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate ve titleEndpoint dahil olmak üzere librechat.yaml yapılandırma dosyası aracılığıyla tüm Shared Endpoint Settings özelliklerini destekler.
  • Anthropic'i veya Anthropic uyumlu bir ağ geçidini ayrı bir özel endpoint olarak yapılandırmak için provider: "anthropic" kullanın.

Vertex AI

LibreChat, Anthropic Claude modellerini Google Cloud Vertex AI aracılığıyla çalıştırmayı destekler. Bu, aşağıdaki durumlarda faydalıdır:

  • Zaten Google Cloud altyapınız var mı
  • Mevcut GCP faturalandırma ve kimlik bilgilerinizi kullanmak mı istiyorsunuz
  • Bölgesel veri yerleşimi gerekliliklerine uyum sağlama ihtiyacı

Hızlı Kurulum (Ortam Değişkenleri)

Anthropic'i Vertex AI aracılığıyla etkinleştirmek için aşağıdaki ortam değişkenlerini ayarlayın:

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true

# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global

# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

Ön Koşullar

  1. Vertex AI API'si etkinleştirilmiş Google Cloud Project
  2. Service Account ve şu rollere sahip:
    • Vertex AI User (roles/aiplatform.user)
    • Ya da tam erişim için Vertex AI Administrator
  3. Vertex AI Model Garden'da etkinleştirilmiş Claude models
  4. Service Account Key (JSON dosyası) indirilmiş ve LibreChat tarafından erişilebilir durumda

Gelişmiş Yapılandırma

Model adı eşleme ve gelişmiş ayarlar (Azure OpenAI yapılandırmasına benzer şekilde) için librechat.yaml dosyasını kullanın:

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

Ayrıntılı YAML yapılandırma seçenekleri için bkz. Anthropic Vertex AI Configuration.

Bu rehber nasıl?