LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat
KonfigurasiLibreChat YAMLEndpoint AIKembang Api

Kembang Api

Konfigurasikan Fireworks sebagai endpoint kustom di LibreChat.

Fireworks AI menyediakan berbagai model terbuka melalui API yang kompatibel dengan OpenAI, yang digunakan di LibreChat sebagai endpoint kustom.

Dapatkan API key

Buat kunci dari halaman kunci API Fireworks. Tambahkan ke file .env Anda:

FIREWORKS_API_KEY=your-api-key

Konfigurasi

Tambahkan endpoint di bawah endpoints.custom dalam librechat.yaml Anda:

    - name: "Fireworks"
      apiKey: "${FIREWORKS_API_KEY}"
      baseURL: "https://api.fireworks.ai/inference/v1"
      models:
        default: [
          "accounts/fireworks/models/mixtral-8x7b-instruct",
          ]
        fetch: true
      titleConvo: true
      titleModel: "accounts/fireworks/models/llama-v2-7b-chat"
      summarize: false
      summaryModel: "accounts/fireworks/models/llama-v2-7b-chat"
      modelDisplayLabel: "Fireworks"
      dropParams: ["user"]

Catatan

  • API ini bersifat ketat untuk beberapa model dan mungkin menolak kolom seperti user, jadi hapus kolom tersebut dengan dropParams.

Bagaimana panduan ini?

Edit di GitHub

Deepseek

Konfigurasikan Deepseek sebagai endpoint kustom di LibreChat.

Groq

Konfigurasikan Groq sebagai endpoint kustom di LibreChat.

Di halaman ini

Dapatkan API keyKonfigurasiCatatan