Skip to main content

LibreChat is joining ClickHouse. Learn more

LibreChat

APIpie

Configureer APIpie als een aangepast endpoint in LibreChat.

APIpie is een aggregator die modellen van vele aanbieders beschikbaar stelt via één enkel OpenAI-compatibel endpoint.

Een API-sleutel verkrijgen

Maak een sleutel aan via apipie.ai/dashboard/profile/api-keys en voeg deze toe aan je .env bestand:

APIPIE_API_KEY=your-api-key

Configuratie

Voeg het endpoint toe onder endpoints.custom in je librechat.yaml:

    - name: "APIpie"
      apiKey: "${APIPIE_API_KEY}"
      baseURL: "https://apipie.ai/v1/"
      models:
        default: [
          "gpt-4",
          "gpt-4-turbo",
          "gpt-3.5-turbo",
          "claude-3-opus",
          "claude-3-sonnet",
          "claude-3-haiku",
          "llama-3-70b-instruct",
          "llama-3-8b-instruct",
          "gemini-pro-1.5",
          "gemini-pro",
          "mistral-large",
          "mistral-medium",
          "mistral-small",
          "mistral-tiny",
          "mixtral-8x22b",
          ]
        fetch: false
      titleConvo: true
      titleModel: "claude-3-haiku"
      summarize: false
      summaryModel: "claude-3-haiku"
      dropParams: ["stream"]
      modelDisplayLabel: "APIpie"

Opmerkingen

  • Automatisch ophalen van modellen wordt niet ondersteund, dus fetch is ingesteld op false en de modellijst is inline gedefinieerd. Gebruik het bovenstaande script om de lijst opnieuw te genereren wanneer er nieuwe modellen worden toegevoegd.
  • De resultaten voor het titelen van gesprekken kunnen inconsistent zijn.
  • dropParams: ["stream"] verwijdert de stream parameter, die momenteel niet wordt ondersteund.

Hoe is deze gids?