Mistral

Mistral은 LibreChat에서 사용자 지정 endpoint로 사용되는 자체 채팅 및 임베딩 모델 제품군을 제공합니다.

API 키 발급받기

Mistral console에서 키를 생성하세요. .env 파일에 추가하세요:

MISTRAL_API_KEY=your-api-key

구성

librechat.yaml의 endpoints.custom 아래에 해당 endpoint를 추가하세요:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

참고 사항

• Mistral API는 메시지 페이로드의 맨 위에 있는 시스템 메시지만 허용합니다.
• API는 인식되지 않는 매개변수에 대해 엄격하며, 오류 설명이 명확하지 않은 경우가 많습니다(종종 "no body"라고만 표시됨). user, frequency_penalty, presence_penalty를 제거하려면 dropParams를 사용해야 합니다.
• stop은 더 이상 기본 매개변수가 아니므로, 사용자가 이를 구성하지 못하도록 제한하려는 경우가 아니라면 dropParams에 포함할 필요가 없습니다.
• 모델 목록 가져오기는 지원되지만, 채팅용으로 임베딩 모델을 선택하지 않도록 주의하세요.