Cohere

Cohere, LibreChat'te özel bir endpoint olarak kullanılan Command model ailesini sağlar. API'si OpenAI spesifikasyonunu takip etmediği için, parametrelerin bir alt kümesini eşleyen bir uyumluluk katmanına dayanır.

Bir API anahtarı alın

Cohere dashboard üzerinden bir anahtar oluşturun. Bunu .env dosyanıza ekleyin:

COHERE_API_KEY=your-api-key

Yapılandırma

librechat.yaml dosyanızda endpoints.custom altına endpoint'i ekleyin:

    - name: "cohere"
      apiKey: "${COHERE_API_KEY}"
      baseURL: "https://api.cohere.ai/v1"
      models:
        default: ["command-r","command-r-plus","command-light","command-light-nightly","command","command-nightly"]
        fetch: false
      modelDisplayLabel: "cohere"
      titleModel: "command"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty", "temperature", "top_p"]

Notlar

• Cohere, OpenAI spesifikasyonunu takip etmez. Bir uyumluluk katmanı, OpenAI parametrelerinin bir alt kümesini Cohere'in eşdeğerleriyle eşler: stop -> stopSequences, top_p -> p, frequency_penalty -> frequencyPenalty ve presence_penalty -> presencePenalty (her biri farklı min/max aralıklarına sahiptir). model ve stream ortaktır ve varsayılan olarak gönderilir; max_tokens ise maxTokens ile eşleşir ancak varsayılan olarak gönderilmez. Yukarıdaki örnek, bunların çoğunu kaldırmak ve Cohere'in varsayılan ayarlarına dönmek için dropParams kullanır.
• Cohere'e özgü parametrelerin tam listesi için Cohere API documentation sayfasına bakın.