Cohere
LibreChatでCohereをカスタムendpointとして設定します。
Cohereは、LibreChatでカスタムendpointとして使用されるCommandモデルファミリーを提供しています。そのAPIはOpenAIの仕様に従っていないため、パラメータのサブセットをマッピングする互換レイヤーに依存しています。
APIキーを取得する
Cohere dashboard からキーを作成します。それを .env ファイルに追加してください:
COHERE_API_KEY=your-api-key設定
librechat.yaml の endpoints.custom の下にエンドポイントを追加します:
- name: "cohere"
apiKey: "${COHERE_API_KEY}"
baseURL: "https://api.cohere.ai/v1"
models:
default: ["command-r","command-r-plus","command-light","command-light-nightly","command","command-nightly"]
fetch: false
modelDisplayLabel: "cohere"
titleModel: "command"
dropParams: ["stop", "user", "frequency_penalty", "presence_penalty", "temperature", "top_p"]注記
- CohereはOpenAIの仕様に従っていません。互換性レイヤーがOpenAIのパラメータのサブセットをCohereの同等パラメータにマッピングします。
stopはstopSequencesに、top_pはpに、frequency_penaltyはfrequencyPenaltyに、presence_penaltyはpresencePenaltyにマッピングされます(それぞれ最小/最大範囲が異なります)。modelとstreamは共有されており、デフォルトで送信されます。max_tokensはmaxTokensにマッピングされますが、デフォルトでは送信されません。上記の例では、dropParamsを使用してこれらのほとんどを削除し、Cohereのデフォルト設定にフォールバックしています。 - Cohere固有のパラメータの完全なリストについては、Cohere API documentationを参照してください。
このガイドはいかがでしたか?