Mistral

Mistral udostępnia własną rodzinę modeli czatowych i osadzeń (embedding), używanych w LibreChat jako niestandardowy endpoint.

Uzyskaj klucz API

Utwórz klucz w konsoli Mistral. Dodaj go do swojego pliku .env:

MISTRAL_API_KEY=your-api-key

Konfiguracja

Dodaj endpoint w sekcji endpoints.custom w swoim librechat.yaml:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

Uwagi

• API Mistral pozwala jedynie na umieszczenie wiadomości systemowej na początku ładunku (payload) wiadomości.
• API jest rygorystyczne w kwestii nierozpoznanych parametrów, a jego błędy nie są opisowe (często to po prostu "no body"). Wymagane jest użycie dropParams w celu usunięcia user, frequency_penalty oraz presence_penalty.
• stop nie jest już domyślnym parametrem, więc nie musi znajdować się w dropParams, chyba że chcesz uniemożliwić użytkownikom jego konfigurację.
• Pobieranie listy modeli jest obsługiwane, ale należy uważać, aby nie wybierać modeli embeddingowych do czatu.