Mistral

A Mistral fornece sua própria família de modelos de chat e embedding, usados no LibreChat como um endpoint personalizado.

Obtenha uma API key

Crie uma chave no Mistral console. Adicione-a ao seu arquivo .env:

MISTRAL_API_KEY=your-api-key

Configuração

Adicione o endpoint em endpoints.custom no seu librechat.yaml:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

Notas

• A API da Mistral permite apenas uma mensagem de sistema no topo do payload de mensagens.
• A API é rigorosa com parâmetros não reconhecidos e seus erros não são descritivos (frequentemente apenas "no body"). É necessário usar dropParams para remover user, frequency_penalty e presence_penalty.
• stop não é mais um parâmetro padrão, portanto, não precisa estar em dropParams, a menos que você queira impedir que os usuários o configurem.
• A busca pela lista de modelos é suportada, mas tome cuidado para não selecionar modelos de embedding para chat.