Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • Vous pouvez déterminer quels modèles vous souhaitez rendre disponibles avec ANTHROPIC_MODELS.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

Notes :

  • Claude Fable 5 est inclus dans le catalogue de modèles Anthropic par défaut de LibreChat. Les modèles de classe Fable/Mythos utilisent le profil Anthropic moderne dans LibreChat : 1M de contexte, 128K de sortie maximale, réflexion adaptative, mise en cache des prompts et prise en charge de thinkingDisplay pour un résultat de raisonnement résumé ou omis.
  • L'endpoint Anthropic prend en charge tous les Shared Endpoint Settings via le fichier de configuration librechat.yaml, y compris streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate et titleEndpoint.
  • Pour configurer Anthropic ou une passerelle compatible avec Anthropic en tant que point de terminaison personnalisé distinct, utilisez provider: "anthropic".

Vertex AI

LibreChat prend en charge l'exécution des modèles Anthropic Claude via Google Cloud Vertex AI. Ceci est utile si vous :

  • Vous disposez déjà d'une infrastructure Google Cloud
  • Vous souhaitez utiliser votre facturation et vos identifiants GCP existants
  • Besoin de se conformer aux exigences régionales en matière de résidence des données

Configuration rapide (Variables d'environnement)

Définissez les variables d'environnement suivantes pour activer Anthropic via Vertex AI :

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true
 
# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global
 
# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

Prérequis

  1. Google Cloud Project avec l'API Vertex AI activée
  2. Compte de service avec les rôles suivants :
    • Vertex AI User (roles/aiplatform.user)
    • Ou Vertex AI Administrator pour un accès complet
  3. Modèles Claude activés dans votre Vertex AI Model Garden
  4. Clé de compte de service (fichier JSON) téléchargée et accessible à LibreChat

Configuration avancée

Pour le mappage des noms de modèles et les paramètres avancés (similaires à la configuration Azure OpenAI), utilisez le fichier librechat.yaml :

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

Pour des options de configuration YAML détaillées, consultez Configuration d'Anthropic Vertex AI.

Que pensez-vous de ce guide ?