LibreChatVuurwerk
Configureer Fireworks als een aangepast endpoint in LibreChat.
Fireworks AI biedt een reeks open modellen aan via een OpenAI-compatibele API, die in LibreChat wordt gebruikt als een custom endpoint.
Een API-sleutel verkrijgen
Maak een sleutel aan via de Fireworks API keys page. Voeg deze toe aan je .env bestand:
FIREWORKS_API_KEY=your-api-keyConfiguratie
Voeg het endpoint toe onder endpoints.custom in je librechat.yaml:
- name: "Fireworks"
apiKey: "${FIREWORKS_API_KEY}"
baseURL: "https://api.fireworks.ai/inference/v1"
models:
default: [
"accounts/fireworks/models/mixtral-8x7b-instruct",
]
fetch: true
titleConvo: true
titleModel: "accounts/fireworks/models/llama-v2-7b-chat"
summarize: false
summaryModel: "accounts/fireworks/models/llama-v2-7b-chat"
modelDisplayLabel: "Fireworks"
dropParams: ["user"]Opmerkingen
- De API is strikt voor sommige modellen en kan velden zoals
userafwijzen, dus verwijder deze metdropParams.
Hoe is deze gids?