Mistral

Mistral biedt zijn eigen familie van chat- en embedding-modellen, die in LibreChat worden gebruikt als een aangepast endpoint.

Een API-sleutel verkrijgen

Maak een sleutel aan via de Mistral console. Voeg deze toe aan je .env bestand:

MISTRAL_API_KEY=your-api-key

Configuratie

Voeg het endpoint toe onder endpoints.custom in je librechat.yaml:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

Opmerkingen

• De Mistral API staat alleen een systeembericht toe aan het begin van de messages payload.
• De API is strikt wat betreft niet-herkende parameters en de foutmeldingen zijn niet beschrijvend (vaak simpelweg "no body"). Het gebruik van dropParams om user, frequency_penalty en presence_penalty te verwijderen is vereist.
• stop is niet langer een standaardparameter, dus deze hoeft niet in dropParams te staan, tenzij je wilt voorkomen dat gebruikers deze kunnen configureren.
• Het ophalen van de modellijst wordt ondersteund, maar pas op dat je geen embedding-modellen selecteert voor chat.