Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • Você pode determinar quais modelos deseja disponibilizar com ANTHROPIC_MODELS.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

Notas:

  • O Claude Fable 5 está incluído no catálogo de modelos Anthropic padrão do LibreChat. Os modelos da classe Fable/Mythos utilizam o perfil Anthropic moderno no LibreChat: 1M de contexto, 128K de saída máxima, raciocínio adaptativo, cache de prompt e suporte a thinkingDisplay para saída de raciocínio resumida ou omitida.
  • O endpoint Anthropic suporta todas as Shared Endpoint Settings através do arquivo de configuração librechat.yaml, incluindo streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate e titleEndpoint
  • Para configurar a Anthropic ou um gateway compatível com a Anthropic como um endpoint personalizado separado, use provider: "anthropic".

Vertex AI

O LibreChat oferece suporte para executar modelos Anthropic Claude por meio do Google Cloud Vertex AI. Isso é útil se você:

  • Já possui infraestrutura no Google Cloud
  • Deseja usar seu faturamento e credenciais existentes do GCP
  • Necessidade de cumprir com requisitos regionais de residência de dados

Configuração Rápida (Variáveis de Ambiente)

Defina as seguintes variáveis de ambiente para habilitar o Anthropic via Vertex AI:

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true

# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global

# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

Pré-requisitos

  1. Google Cloud Project com a Vertex AI API habilitada
  2. Service Account com as seguintes funções:
    • Vertex AI User (roles/aiplatform.user)
    • Ou Vertex AI Administrator para acesso total
  3. Modelos Claude habilitados no seu Vertex AI Model Garden
  4. Service Account Key (arquivo JSON) baixada e acessível ao LibreChat

Configuração Avançada

Para mapeamento de nomes de modelos e configurações avançadas (semelhante à configuração do Azure OpenAI), use o arquivo librechat.yaml:

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

Para opções detalhadas de configuração YAML, veja Configuração do Anthropic Vertex AI.

Como está este guia?