Mistral

Mistral menyediakan keluarga model chat dan embedding miliknya sendiri, yang digunakan di LibreChat sebagai endpoint kustom.

Dapatkan API key

Buat kunci dari Mistral console. Tambahkan ke file .env Anda:

MISTRAL_API_KEY=your-api-key

Konfigurasi

Tambahkan endpoint di bawah endpoints.custom dalam librechat.yaml Anda:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

Catatan

• API Mistral hanya mengizinkan pesan sistem di bagian atas payload pesan.
• API ini sangat ketat terhadap parameter yang tidak dikenali dan pesan kesalahannya tidak deskriptif (seringkali hanya "no body"). Menggunakan dropParams untuk menghapus user, frequency_penalty, dan presence_penalty sangat diperlukan.
• stop bukan lagi parameter default, jadi tidak perlu ada di dropParams kecuali Anda ingin mencegah pengguna mengonfigurasinya.
• Pengambilan daftar model didukung, namun berhati-hatilah untuk tidak memilih model embedding untuk chat.