Mistral

Mistral fornisce la propria famiglia di modelli di chat e di embedding, utilizzati in LibreChat come endpoint personalizzato.

Ottieni una API key

Crea una chiave dalla Mistral console. Aggiungila al tuo file .env:

MISTRAL_API_KEY=your-api-key

Configurazione

Aggiungi l'endpoint sotto endpoints.custom nel tuo librechat.yaml:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

Note

• L'API Mistral consente solo un messaggio di sistema all'inizio del payload dei messaggi.
• L'API è rigorosa con i parametri non riconosciuti e i suoi errori non sono descrittivi (spesso indicano solo "no body"). È necessario utilizzare dropParams per rimuovere user, frequency_penalty e presence_penalty.
• stop non è più un parametro predefinito, quindi non è necessario che sia presente in dropParams a meno che non si voglia impedire agli utenti di configurarlo.
• Il recupero dell'elenco dei modelli è supportato, ma fai attenzione a non selezionare modelli di embedding per la chat.