LibreChatPháo hoa
Cấu hình Fireworks làm endpoint tùy chỉnh trong LibreChat.
Fireworks AI cung cấp một loạt các mô hình mở thông qua API tương thích với OpenAI, được sử dụng trong LibreChat như một endpoint tùy chỉnh.
Nhận API key
Tạo một khóa từ trang khóa API Fireworks. Thêm nó vào tệp .env của bạn:
FIREWORKS_API_KEY=your-api-keyCấu hình
Thêm endpoint vào dưới endpoints.custom trong tệp librechat.yaml của bạn:
- name: "Fireworks"
apiKey: "${FIREWORKS_API_KEY}"
baseURL: "https://api.fireworks.ai/inference/v1"
models:
default: [
"accounts/fireworks/models/mixtral-8x7b-instruct",
]
fetch: true
titleConvo: true
titleModel: "accounts/fireworks/models/llama-v2-7b-chat"
summarize: false
summaryModel: "accounts/fireworks/models/llama-v2-7b-chat"
modelDisplayLabel: "Fireworks"
dropParams: ["user"]Ghi chú
- API này rất nghiêm ngặt đối với một số model và có thể từ chối các trường như
user, vì vậy hãy loại bỏ chúng bằngdropParams.
Hướng dẫn này thế nào?