Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Anthropic

ANTHROPIC_API_KEY=user_provided
  • Je kunt bepalen welke modellen je beschikbaar wilt hebben met ANTHROPIC_MODELS.
ANTHROPIC_MODELS=claude-fable-5,claude-opus-4-8,claude-opus-4-7,claude-sonnet-4-6,claude-opus-4-6,claude-opus-4-20250514,claude-3-7-sonnet-20250219,claude-3-5-sonnet-20241022,claude-3-5-haiku-20241022

Opmerkingen:

  • Claude Fable 5 is opgenomen in de standaard Anthropic modelcatalogus van LibreChat. Fable/Mythos-klasse modellen gebruiken het moderne Anthropic profiel in LibreChat: 1M context, 128K max output, adaptief denken, prompt caching en thinkingDisplay ondersteuning voor samengevatte of weggelaten redeneeroutput.
  • Het Anthropic endpoint ondersteunt alle Shared Endpoint Settings via het librechat.yaml configuratiebestand, inclusief streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate en titleEndpoint.
  • Om Anthropic of een Anthropic-compatibele gateway als een apart aangepast endpoint te configureren, gebruik provider: "anthropic".

Vertex AI

LibreChat ondersteunt het draaien van Anthropic Claude-modellen via Google Cloud Vertex AI. Dit is nuttig als je:

  • Heb je al Google Cloud-infrastructuur
  • Wil je je bestaande GCP-facturering en -inloggegevens gebruiken
  • Moet voldoen aan regionale vereisten voor gegevensresidentie

Snelle installatie (omgevingsvariabelen)

Stel de volgende omgevingsvariabelen in om Anthropic via Vertex AI in te schakelen:

# Enable Vertex AI mode for Anthropic
ANTHROPIC_USE_VERTEX=true

# Vertex AI region (optional, defaults to 'us-east5')
# Available regions: global, us-east5, us-central1, europe-west1, europe-west4, asia-southeast1
ANTHROPIC_VERTEX_REGION=global

# Path to Google service account key file (optional)
# If not specified, uses default path: api/data/auth.json
GOOGLE_SERVICE_KEY_FILE=/path/to/service-account.json

Vereisten

  1. Google Cloud Project met Vertex AI API ingeschakeld
  2. Service Account met de volgende rollen:
    • Vertex AI User (roles/aiplatform.user)
    • Of Vertex AI Administrator voor volledige toegang
  3. Claude modellen ingeschakeld in je Vertex AI Model Garden
  4. Service Account Key (JSON-bestand) gedownload en toegankelijk voor LibreChat

Geavanceerde configuratie

Voor modelnaam-mapping en geavanceerde instellingen (vergelijkbaar met Azure OpenAI-configuratie), gebruik het librechat.yaml bestand:

endpoints:
  anthropic:
    vertex:
      region: us-east5
      models:
        claude-opus-4.5:
          deploymentName: claude-opus-4-5@20251101
        claude-sonnet-4:
          deploymentName: claude-sonnet-4-20250514
        claude-3.5-haiku:
          deploymentName: claude-3-5-haiku@20241022

Voor gedetailleerde YAML-configuratieopties, zie Anthropic Vertex AI Configuration.

Hoe is deze gids?