LibreChatFajerwerki
Skonfiguruj Fireworks jako niestandardowy endpoint w LibreChat.
Fireworks AI udostępnia szereg otwartych modeli za pośrednictwem API zgodnego z OpenAI, używanego w LibreChat jako niestandardowy endpoint.
Uzyskaj klucz API
Utwórz klucz na stronie kluczy API Fireworks. Dodaj go do swojego pliku .env:
FIREWORKS_API_KEY=your-api-keyKonfiguracja
Dodaj endpoint w sekcji endpoints.custom w swoim librechat.yaml:
- name: "Fireworks"
apiKey: "${FIREWORKS_API_KEY}"
baseURL: "https://api.fireworks.ai/inference/v1"
models:
default: [
"accounts/fireworks/models/mixtral-8x7b-instruct",
]
fetch: true
titleConvo: true
titleModel: "accounts/fireworks/models/llama-v2-7b-chat"
summarize: false
summaryModel: "accounts/fireworks/models/llama-v2-7b-chat"
modelDisplayLabel: "Fireworks"
dropParams: ["user"]Uwagi
- API jest rygorystyczne w przypadku niektórych modeli i może odrzucać pola takie jak
user, więc usuń je za pomocądropParams.
Jaka jest ta instrukcja?