Mistral

Mistral proporciona su propia familia de modelos de chat y embedding, utilizados en LibreChat como un endpoint personalizado.

Obtener una API key

Cree una clave desde la consola de Mistral. Añádala a su archivo .env:

MISTRAL_API_KEY=your-api-key

Configuración

Agregue el endpoint bajo endpoints.custom en su librechat.yaml:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

Notas

• La API de Mistral solo permite un mensaje de sistema al principio del payload de mensajes.
• La API es estricta con los parámetros no reconocidos y sus errores no son descriptivos (a menudo solo dicen "no body"). Es necesario usar dropParams para descartar user, frequency_penalty y presence_penalty.
• stop ya no es un parámetro predeterminado, por lo que no necesita estar en dropParams a menos que desee evitar que los usuarios lo configuren.
• La obtención de la lista de modelos es compatible, pero tenga cuidado de no seleccionar modelos de embedding para el chat.