Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • Puedes determinar qué modelos te gustaría tener disponibles con ANTHROPIC_MODELS.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

Notas:

  • Claude Fable 5 está incluido en el catálogo de modelos Anthropic predeterminado de LibreChat. Los modelos de clase Fable/Mythos utilizan el perfil moderno de Anthropic en LibreChat: 1M de contexto, 128K de salida máxima, pensamiento adaptativo, almacenamiento en caché de prompts y soporte para thinkingDisplay para resultados de razonamiento resumidos u omitidos.
  • El endpoint Anthropic admite todos los Shared Endpoint Settings a través del archivo de configuración librechat.yaml, incluyendo streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate y titleEndpoint.
  • Para configurar Anthropic o una pasarela compatible con Anthropic como un endpoint personalizado independiente, utiliza provider: "anthropic".

Vertex AI

LibreChat admite la ejecución de modelos Anthropic Claude a través de Google Cloud Vertex AI. Esto es útil si usted:

  • Ya tiene infraestructura de Google Cloud
  • ¿Desea utilizar su facturación y credenciales de GCP existentes?
  • Necesidad de cumplir con los requisitos regionales de residencia de datos

Configuración rápida (Variables de entorno)

Establezca las siguientes variables de entorno para habilitar Anthropic a través de Vertex AI:

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true
 
# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global
 
# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

Requisitos previos

  1. Google Cloud Project con la API de Vertex AI habilitada
  2. Service Account con los siguientes roles:
    • Vertex AI User (roles/aiplatform.user)
    • O Vertex AI Administrator para acceso completo
  3. Modelos Claude habilitados en tu Vertex AI Model Garden
  4. Service Account Key (archivo JSON) descargado y accesible para LibreChat

Configuración avanzada

Para el mapeo de nombres de modelos y configuraciones avanzadas (similar a la configuración de Azure OpenAI), utilice el archivo librechat.yaml:

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

Para obtener opciones de configuración YAML detalladas, consulte Anthropic Vertex AI Configuration.

¿Qué te parece esta guía?