Mistral

Mistral fournit sa propre famille de modèles de chat et d'embedding, utilisés dans LibreChat en tant qu'endpoint personnalisé.

Obtenir une clé API

Créez une clé depuis la Mistral console. Ajoutez-la à votre fichier .env :

MISTRAL_API_KEY=your-api-key

Configuration

Ajoutez l'endpoint sous endpoints.custom dans votre librechat.yaml :

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

Notes

• L'API Mistral autorise uniquement un message système au début de la charge utile des messages.
• L'API est stricte concernant les paramètres non reconnus et ses erreurs ne sont pas descriptives (souvent simplement « no body »). L'utilisation de dropParams pour supprimer user, frequency_penalty et presence_penalty est requise.
• stop n'est plus un paramètre par défaut, il n'a donc pas besoin d'être dans dropParams à moins que vous ne souhaitiez empêcher les utilisateurs de le configurer.
• La récupération de la liste des modèles est prise en charge, mais veillez à ne pas sélectionner de modèles d'embedding pour le chat.