LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

APIpie

Konfiguriere APIpie als benutzerdefinierten endpoint in LibreChat.

APIpie ist ein Aggregator, der Modelle vieler Anbieter über einen einzigen OpenAI-kompatiblen endpoint bereitstellt.

Einen API-Schlüssel erhalten

Erstellen Sie einen Schlüssel unter apipie.ai/dashboard/profile/api-keys und fügen Sie ihn Ihrer .env Datei hinzu:

APIPIE_API_KEY=your-api-key

Konfiguration

Fügen Sie den endpoint unter endpoints.custom in Ihrer librechat.yaml hinzu:

    - name: "APIpie"
      apiKey: "${APIPIE_API_KEY}"
      baseURL: "https://apipie.ai/v1/"
      models:
        default: [
          "gpt-4",
          "gpt-4-turbo",
          "gpt-3.5-turbo",
          "claude-3-opus",
          "claude-3-sonnet",
          "claude-3-haiku",
          "llama-3-70b-instruct",
          "llama-3-8b-instruct",
          "gemini-pro-1.5",
          "gemini-pro",
          "mistral-large",
          "mistral-medium",
          "mistral-small",
          "mistral-tiny",
          "mixtral-8x22b",
          ]
        fetch: false
      titleConvo: true
      titleModel: "claude-3-haiku"
      summarize: false
      summaryModel: "claude-3-haiku"
      dropParams: ["stream"]
      modelDisplayLabel: "APIpie"

Hinweise

  • Das automatische Abrufen von Modellen wird nicht unterstützt, daher ist fetch auf false gesetzt und die Modellliste wird inline definiert. Verwenden Sie das obige Skript, um die Liste neu zu generieren, wenn neue Modelle hinzugefügt werden.
  • Die Ergebnisse der Konversationsbetitelung können inkonsistent sein.
  • dropParams: ["stream"] entfernt den stream-Parameter, der aktuell nicht unterstützt wird.

Wie finden Sie diese Anleitung?

Auf GitHub bearbeiten