Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • Puoi determinare quali modelli desideri rendere disponibili con ANTHROPIC_MODELS.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

Note:

  • Claude Fable 5 è incluso nel catalogo dei modelli Anthropic predefiniti di LibreChat. I modelli di classe Fable/Mythos utilizzano il moderno profilo Anthropic in LibreChat: 1M di contesto, 128K di output massimo, thinking adattivo, prompt caching e supporto thinkingDisplay per l'output del ragionamento riassunto o omesso.
  • L'endpoint Anthropic supporta tutte le Shared Endpoint Settings tramite il file di configurazione librechat.yaml, inclusi streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate e titleEndpoint
  • Per configurare Anthropic o un gateway compatibile con Anthropic come endpoint personalizzato separato, utilizza provider: "anthropic".

Vertex AI

LibreChat supporta l'esecuzione dei modelli Anthropic Claude tramite Google Cloud Vertex AI. Questo è utile se:

  • Hai già un'infrastruttura Google Cloud
  • Vuoi utilizzare la tua fatturazione e le tue credenziali GCP esistenti
  • È necessario rispettare i requisiti regionali di residenza dei dati

Configurazione rapida (Variabili d'ambiente)

Imposta le seguenti variabili d'ambiente per abilitare Anthropic tramite Vertex AI:

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true

# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global

# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

Prerequisiti

  1. Google Cloud Project con Vertex AI API abilitata
  2. Service Account con i seguenti ruoli:
    • Vertex AI User (roles/aiplatform.user)
    • O Vertex AI Administrator per l'accesso completo
  3. Modelli Claude abilitati nel tuo Vertex AI Model Garden
  4. Service Account Key (file JSON) scaricata e accessibile a LibreChat

Configurazione Avanzata

Per la mappatura dei nomi dei modelli e le impostazioni avanzate (simili alla configurazione di Azure OpenAI), utilizza il file librechat.yaml:

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

Per opzioni di configurazione YAML dettagliate, consulta Anthropic Vertex AI Configuration.

Com’è questa guida?