Fireworks

Fireworks AI는 OpenAI 호환 API를 통해 다양한 오픈 모델을 제공하며, LibreChat에서는 커스텀 endpoint로 사용됩니다.

API 키 발급받기

Fireworks API keys 페이지에서 키를 생성하세요. .env 파일에 다음을 추가하세요:

FIREWORKS_API_KEY=your-api-key

구성

librechat.yaml의 endpoints.custom 아래에 해당 endpoint를 추가하세요:

    - name: "Fireworks"
      apiKey: "${FIREWORKS_API_KEY}"
      baseURL: "https://api.fireworks.ai/inference/v1"
      models:
        default: [
          "accounts/fireworks/models/mixtral-8x7b-instruct",
          ]
        fetch: true
      titleConvo: true
      titleModel: "accounts/fireworks/models/llama-v2-7b-chat"
      summarize: false
      summaryModel: "accounts/fireworks/models/llama-v2-7b-chat"
      modelDisplayLabel: "Fireworks"
      dropParams: ["user"]

참고 사항

일부 모델의 경우 API가 엄격하여 user와 같은 필드를 거부할 수 있으므로, dropParams를 사용하여 해당 필드를 제외하세요.