Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

APIpie

Konfigurasikan APIpie sebagai endpoint kustom di LibreChat.

APIpie adalah agregator yang mengekspos model dari banyak penyedia melalui satu endpoint yang kompatibel dengan OpenAI.

Dapatkan API key

Buat kunci dari apipie.ai/dashboard/profile/api-keys dan tambahkan ke file .env Anda:

APIPIE_API_KEY=your-api-key

Konfigurasi

Tambahkan endpoint di bawah endpoints.custom dalam librechat.yaml Anda:

    - name: "APIpie"
      apiKey: "${APIPIE_API_KEY}"
      baseURL: "https://apipie.ai/v1/"
      models:
        default: [
          "gpt-4",
          "gpt-4-turbo",
          "gpt-3.5-turbo",
          "claude-3-opus",
          "claude-3-sonnet",
          "claude-3-haiku",
          "llama-3-70b-instruct",
          "llama-3-8b-instruct",
          "gemini-pro-1.5",
          "gemini-pro",
          "mistral-large",
          "mistral-medium",
          "mistral-small",
          "mistral-tiny",
          "mixtral-8x22b",
          ]
        fetch: false
      titleConvo: true
      titleModel: "claude-3-haiku"
      summarize: false
      summaryModel: "claude-3-haiku"
      dropParams: ["stream"]
      modelDisplayLabel: "APIpie"

Catatan

  • Pengambilan model otomatis tidak didukung, jadi fetch diatur ke false dan daftar model didefinisikan secara inline. Gunakan skrip di atas untuk membuat ulang daftar tersebut saat model baru ditambahkan.
  • Hasil penamaan percakapan bisa jadi tidak konsisten.
  • dropParams: ["stream"] menghapus parameter stream, yang saat ini tidak didukung.

Bagaimana panduan ini?