Mistral

Mistral, LibreChat'te özel bir endpoint olarak kullanılan kendi sohbet ve yerleştirme (embedding) modelleri ailesini sunar.

Bir API anahtarı alın

Mistral console üzerinden bir anahtar oluşturun. Bunu .env dosyanıza ekleyin:

MISTRAL_API_KEY=your-api-key

Yapılandırma

librechat.yaml dosyanızda endpoints.custom altına endpoint'i ekleyin:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

Notlar

• Mistral API, mesaj yükünün en üstünde yalnızca bir sistem mesajına izin verir.
• API, tanınmayan parametreler konusunda katıdır ve hataları açıklayıcı değildir (genellikle sadece "no body" hatası verir). user, frequency_penalty ve presence_penalty parametrelerini kaldırmak için dropParams kullanılması zorunludur.
• stop artık varsayılan bir parametre değildir, bu nedenle kullanıcıların bunu yapılandırmasını engellemek istemediğiniz sürece dropParams içinde bulunmasına gerek yoktur.
• Model listesini getirme desteklenmektedir, ancak sohbet için embedding modellerini seçmemeye dikkat edin.