Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Cohere

LibreChatでCohereをカスタムendpointとして設定します。

Cohereは、LibreChatでカスタムendpointとして使用されるCommandモデルファミリーを提供しています。そのAPIはOpenAIの仕様に従っていないため、パラメータのサブセットをマッピングする互換レイヤーに依存しています。

APIキーを取得する

Cohere dashboard からキーを作成します。それを .env ファイルに追加してください:

COHERE_API_KEY=your-api-key

設定

librechat.yamlendpoints.custom の下にエンドポイントを追加します:

    - name: "cohere"
      apiKey: "${COHERE_API_KEY}"
      baseURL: "https://api.cohere.ai/v1"
      models:
        default: ["command-r","command-r-plus","command-light","command-light-nightly","command","command-nightly"]
        fetch: false
      modelDisplayLabel: "cohere"
      titleModel: "command"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty", "temperature", "top_p"]

注記

  • CohereはOpenAIの仕様に従っていません。互換性レイヤーがOpenAIのパラメータのサブセットをCohereの同等パラメータにマッピングします。stopstopSequencesへ、top_ppへ、frequency_penaltyfrequencyPenaltyへ、そしてpresence_penaltypresencePenaltyへマッピングされます(それぞれ最小/最大範囲が異なります)。modelstreamは共有されており、デフォルトで送信されます。max_tokensmaxTokensにマッピングされますが、デフォルトでは送信されません。上記の例では、dropParamsを使用してこれらのほとんどを削除し、Cohereのデフォルト設定にフォールバックしています。
  • Cohere固有のパラメータの完全なリストについては、Cohere API documentationを参照してください。

このガイドはいかがでしたか?