Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

APIpie

Configureer APIpie als een aangepast endpoint in LibreChat.

APIpie is een aggregator die modellen van vele aanbieders beschikbaar stelt via één enkel OpenAI-compatibel endpoint.

Een API-sleutel verkrijgen

Maak een sleutel aan via apipie.ai/dashboard/profile/api-keys en voeg deze toe aan je .env bestand:

APIPIE_API_KEY=your-api-key

Configuratie

Voeg het endpoint toe onder endpoints.custom in je librechat.yaml:

    - name: "APIpie"
      apiKey: "${APIPIE_API_KEY}"
      baseURL: "https://apipie.ai/v1/"
      models:
        default: [
          "gpt-4",
          "gpt-4-turbo",
          "gpt-3.5-turbo",
          "claude-3-opus",
          "claude-3-sonnet",
          "claude-3-haiku",
          "llama-3-70b-instruct",
          "llama-3-8b-instruct",
          "gemini-pro-1.5",
          "gemini-pro",
          "mistral-large",
          "mistral-medium",
          "mistral-small",
          "mistral-tiny",
          "mixtral-8x22b",
          ]
        fetch: false
      titleConvo: true
      titleModel: "claude-3-haiku"
      summarize: false
      summaryModel: "claude-3-haiku"
      dropParams: ["stream"]
      modelDisplayLabel: "APIpie"

Opmerkingen

  • Automatisch ophalen van modellen wordt niet ondersteund, dus fetch is ingesteld op false en de modellijst is inline gedefinieerd. Gebruik het bovenstaande script om de lijst opnieuw te genereren wanneer er nieuwe modellen worden toegevoegd.
  • De resultaten voor het titelen van gesprekken kunnen inconsistent zijn.
  • dropParams: ["stream"] verwijdert de stream parameter, die momenteel niet wordt ondersteund.

Hoe is deze gids?