Havai Fişekler

Fireworks AI, LibreChat'te özel bir endpoint olarak kullanılan, OpenAI uyumlu bir API aracılığıyla çeşitli açık modeller sunar.

Bir API anahtarı alın

Fireworks API keys page sayfasından bir anahtar oluşturun. Bunu .env dosyanıza ekleyin:

FIREWORKS_API_KEY=your-api-key

Yapılandırma

librechat.yaml dosyanızda endpoints.custom altına endpoint'i ekleyin:

    - name: "Fireworks"
      apiKey: "${FIREWORKS_API_KEY}"
      baseURL: "https://api.fireworks.ai/inference/v1"
      models:
        default: [
          "accounts/fireworks/models/mixtral-8x7b-instruct",
          ]
        fetch: true
      titleConvo: true
      titleModel: "accounts/fireworks/models/llama-v2-7b-chat"
      summarize: false
      summaryModel: "accounts/fireworks/models/llama-v2-7b-chat"
      modelDisplayLabel: "Fireworks"
      dropParams: ["user"]

Notlar

API bazı modeller için katıdır ve user gibi alanları reddedebilir, bu yüzden bunları dropParams ile kaldırın.

Havai Fişekler

Bir API anahtarı alın

Yapılandırma

Notlar

Bu sayfada