Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Mistral

LibreChatでMistralをカスタムendpointとして設定する。

Mistralは独自のチャットモデルおよび埋め込みモデルを提供しており、LibreChatではカスタムendpointとして使用されます。

APIキーを取得する

Mistral console からキーを作成します。それを .env ファイルに追加してください:

MISTRAL_API_KEY=your-api-key

設定

librechat.yamlendpoints.custom の下にエンドポイントを追加します:

    - name: "Mistral"
      apiKey: "${MISTRAL_API_KEY}"
      baseURL: "https://api.mistral.ai/v1"
      models:
        default: ["mistral-tiny", "mistral-small", "mistral-medium", "mistral-large-latest"]
        fetch: true
      titleConvo: true
      titleModel: "mistral-tiny"
      modelDisplayLabel: "Mistral"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

注記

  • Mistral APIでは、メッセージペイロードの先頭にのみシステムメッセージを配置できます。
  • APIは認識されないパラメータに対して厳格であり、そのエラーは説明的ではありません(多くの場合、単に「no body」と表示されます)。userfrequency_penalty、および presence_penalty を除外するために dropParams を使用することが必須です。
  • stop はデフォルトのパラメータではなくなったため、ユーザーによる設定を禁止したい場合を除き、dropParams に含める必要はありません。
  • モデルリストの取得はサポートされていますが、チャット用に埋め込み(embedding)モデルを選択しないよう注意してください。

このガイドはいかがでしたか?