Fogos de artifício

O Fireworks AI disponibiliza uma variedade de modelos abertos por meio de uma API compatível com OpenAI, utilizada no LibreChat como um endpoint personalizado.

Obtenha uma API key

Crie uma chave na página de chaves de API da Fireworks. Adicione-a ao seu arquivo .env:

FIREWORKS_API_KEY=your-api-key

Configuração

Adicione o endpoint em endpoints.custom no seu librechat.yaml:

    - name: "Fireworks"
      apiKey: "${FIREWORKS_API_KEY}"
      baseURL: "https://api.fireworks.ai/inference/v1"
      models:
        default: [
          "accounts/fireworks/models/mixtral-8x7b-instruct",
          ]
        fetch: true
      titleConvo: true
      titleModel: "accounts/fireworks/models/llama-v2-7b-chat"
      summarize: false
      summaryModel: "accounts/fireworks/models/llama-v2-7b-chat"
      modelDisplayLabel: "Fireworks"
      dropParams: ["user"]

Notas

A API é rigorosa para alguns modelos e pode rejeitar campos como user, portanto, remova-os com dropParams.

Fogos de artifício

Obtenha uma API key

Configuração

Notas

Nesta página