Mistral

Mistral cung cấp dòng mô hình chat và embedding riêng, được sử dụng trong LibreChat như một endpoint tùy chỉnh.

Nhận API key

Tạo một khóa từ Mistral console. Thêm nó vào tệp .env của bạn:

MISTRAL_API_KEY=your-api-key

Cấu hình

Thêm endpoint vào dưới endpoints.custom trong tệp librechat.yaml của bạn:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

Ghi chú

• Mistral API chỉ cho phép một tin nhắn hệ thống ở đầu payload tin nhắn.
• API này rất nghiêm ngặt với các tham số không được nhận dạng và các lỗi của nó không mang tính mô tả (thường chỉ là "no body"). Việc sử dụng dropParams để loại bỏ user, frequency_penalty và presence_penalty là bắt buộc.
• stop không còn là tham số mặc định, vì vậy nó không cần phải nằm trong dropParams trừ khi bạn muốn ngăn người dùng cấu hình tham số này.
• Việc lấy danh sách model được hỗ trợ, nhưng hãy cẩn thận không chọn các model embedding cho mục đích trò chuyện.