Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

APIpie

Skonfiguruj APIpie jako niestandardowy endpoint w LibreChat.

APIpie to agregator, który udostępnia modele od wielu dostawców za pośrednictwem pojedynczego endpoint zgodnego z OpenAI.

Uzyskaj klucz API

Utwórz klucz z apipie.ai/dashboard/profile/api-keys i dodaj go do swojego pliku .env:

APIPIE_API_KEY=your-api-key

Konfiguracja

Dodaj endpoint w sekcji endpoints.custom w swoim librechat.yaml:

    - name: "APIpie"
      apiKey: "${APIPIE_API_KEY}"
      baseURL: "https://apipie.ai/v1/"
      models:
        default: [
          "gpt-4",
          "gpt-4-turbo",
          "gpt-3.5-turbo",
          "claude-3-opus",
          "claude-3-sonnet",
          "claude-3-haiku",
          "llama-3-70b-instruct",
          "llama-3-8b-instruct",
          "gemini-pro-1.5",
          "gemini-pro",
          "mistral-large",
          "mistral-medium",
          "mistral-small",
          "mistral-tiny",
          "mixtral-8x22b",
          ]
        fetch: false
      titleConvo: true
      titleModel: "claude-3-haiku"
      summarize: false
      summaryModel: "claude-3-haiku"
      dropParams: ["stream"]
      modelDisplayLabel: "APIpie"

Uwagi

  • Automatyczne pobieranie modeli nie jest obsługiwane, więc fetch jest ustawione na false, a lista modeli jest zdefiniowana wewnątrz pliku. Użyj powyższego skryptu, aby wygenerować listę ponownie po dodaniu nowych modeli.
  • Wyniki nadawania tytułów konwersacjom mogą być niespójne.
  • dropParams: ["stream"] usuwa parametr stream, który nie jest obecnie obsługiwany.

Jaka jest ta instrukcja?