Fireworks

Configurer Fireworks en tant qu'endpoint personnalisé dans LibreChat.

Fireworks AI propose une gamme de modèles ouverts via une API compatible avec OpenAI, utilisée dans LibreChat en tant qu'endpoint personnalisé.

Obtenir une clé API

Créez une clé depuis la page des clés API de Fireworks. Ajoutez-la à votre fichier .env :

FIREWORKS_API_KEY=your-api-key

Configuration

Ajoutez l'endpoint sous endpoints.custom dans votre librechat.yaml :

    - name: "Fireworks"
      apiKey: "${FIREWORKS_API_KEY}"
      baseURL: "https://api.fireworks.ai/inference/v1"
      models:
        default: [
          "accounts/fireworks/models/mixtral-8x7b-instruct",
          ]
        fetch: true
      titleConvo: true
      titleModel: "accounts/fireworks/models/llama-v2-7b-chat"
      summarize: false
      summaryModel: "accounts/fireworks/models/llama-v2-7b-chat"
      modelDisplayLabel: "Fireworks"
      dropParams: ["user"]

Notes

L'API est stricte pour certains modèles et peut rejeter des champs comme user, vous devez donc les supprimer avec dropParams.

Que pensez-vous de ce guide ?