Skip to main content

LibreChat is joining ClickHouse. Learn more

LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • ANTHROPIC_MODELS를 사용하여 사용 가능한 모델을 결정할 수 있습니다.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

참고:

  • Claude Fable 5는 LibreChat의 기본 Anthropic 모델 카탈로그에 포함되어 있습니다. Fable/Mythos 계열 모델은 LibreChat에서 최신 Anthropic 프로필을 사용합니다: 1M 컨텍스트, 128K 최대 출력, 적응형 사고(adaptive thinking), 프롬프트 캐싱, 그리고 요약되거나 생략된 추론 출력을 위한 thinkingDisplay 지원이 포함됩니다.
  • Anthropic endpoint는 librechat.yaml 구성 파일을 통해 Shared Endpoint Settings의 모든 설정을 지원하며, 여기에는 streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate 및 titleEndpoint가 포함됩니다.
  • Anthropic 또는 Anthropic 호환 게이트웨이를 별도의 사용자 지정 endpoint로 구성하려면 provider: "anthropic"를 사용하세요.

Vertex AI

LibreChat은 Google Cloud Vertex AI를 통해 Anthropic Claude 모델을 실행하는 것을 지원합니다. 이는 다음과 같은 경우에 유용합니다:

  • 이미 Google Cloud 인프라를 보유하고 있는 경우
  • 기존 GCP 결제 및 자격 증명을 사용하고 싶으신가요?
  • 지역 데이터 보존 요구 사항을 준수해야 함

빠른 설정 (환경 변수)

Vertex AI를 통해 Anthropic을 활성화하려면 다음 환경 변수를 설정하세요:

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true

# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global

# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

필수 조건

  1. Vertex AI API가 활성화된 Google Cloud Project
  2. 다음 역할을 가진 Service Account:
    • Vertex AI User (roles/aiplatform.user)
    • 또는 전체 액세스 권한을 위해 Vertex AI Administrator
  3. Vertex AI Model Garden에서 활성화된 Claude models
  4. Service Account Key (JSON 파일)가 다운로드되어 LibreChat에서 액세스할 수 있어야 합니다.

고급 구성

모델 이름 매핑 및 고급 설정(Azure OpenAI 구성과 유사)을 위해서는 librechat.yaml 파일을 사용하세요:

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

자세한 YAML 구성 옵션은 Anthropic Vertex AI Configuration을 참조하세요.

이 가이드는 어떤가요?