Mistral

Mistral bietet eine eigene Familie von Chat- und Embedding-Modellen an, die in LibreChat als benutzerdefinierter endpoint verwendet werden.

Einen API-Schlüssel erhalten

Erstellen Sie einen Schlüssel über die Mistral console. Fügen Sie ihn Ihrer .env Datei hinzu:

MISTRAL_API_KEY=your-api-key

Konfiguration

Fügen Sie den endpoint unter endpoints.custom in Ihrer librechat.yaml hinzu:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

Hinweise

• Die Mistral API erlaubt ein System-Message nur am Anfang des messages-Payloads.
• Die API ist streng bei nicht erkannten Parametern und ihre Fehlermeldungen sind nicht aussagekräftig (oft nur "no body"). Die Verwendung von dropParams, um user, frequency_penalty und presence_penalty zu entfernen, ist erforderlich.
• stop ist kein Standardparameter mehr und muss daher nicht in dropParams enthalten sein, es sei denn, Sie möchten verhindern, dass Benutzer ihn konfigurieren.
• Das Abrufen der Modellliste wird unterstützt, aber achten Sie darauf, keine Embedding-Modelle für den Chat auszuwählen.