Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack šŸŽ‰ Learn more
LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • VocĆŖ pode determinar quais modelos deseja disponibilizar com ANTHROPIC_MODELS.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

Notas:

  • O Claude Fable 5 estĆ” incluĆ­do no catĆ”logo de modelos Anthropic padrĆ£o do LibreChat. Os modelos da classe Fable/Mythos utilizam o perfil Anthropic moderno no LibreChat: 1M de contexto, 128K de saĆ­da mĆ”xima, raciocĆ­nio adaptativo, cache de prompt e suporte a thinkingDisplay para saĆ­da de raciocĆ­nio resumida ou omitida.
  • O endpoint Anthropic suporta todas as Shared Endpoint Settings atravĆ©s do arquivo de configuração librechat.yaml, incluindo streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate e titleEndpoint
  • Para configurar a Anthropic ou um gateway compatĆ­vel com a Anthropic como um endpoint personalizado separado, use provider: "anthropic".

Vertex AI

O LibreChat oferece suporte para executar modelos Anthropic Claude por meio do Google Cloud Vertex AI. Isso Ć© Ćŗtil se vocĆŖ:

  • JĆ” possui infraestrutura no Google Cloud
  • Deseja usar seu faturamento e credenciais existentes do GCP
  • Necessidade de cumprir com requisitos regionais de residĆŖncia de dados

Configuração RÔpida (VariÔveis de Ambiente)

Defina as seguintes variƔveis de ambiente para habilitar o Anthropic via Vertex AI:

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true

# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global

# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

PrƩ-requisitos

  1. Google Cloud Project com a Vertex AI API habilitada
  2. Service Account com as seguintes funƧƵes:
    • Vertex AI User (roles/aiplatform.user)
    • Ou Vertex AI Administrator para acesso total
  3. Modelos Claude habilitados no seu Vertex AI Model Garden
  4. Service Account Key (arquivo JSON) baixada e acessĆ­vel ao LibreChat

Configuração Avançada

Para mapeamento de nomes de modelos e configurações avançadas (semelhante à configuração do Azure OpenAI), use o arquivo librechat.yaml:

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

Para opções detalhadas de configuração YAML, veja Configuração do Anthropic Vertex AI.

Como estĆ” este guia?