Cohere

Cohere fournit la famille de modèles Command, utilisée dans LibreChat en tant qu'endpoint personnalisé. Son API ne suit pas la spécification OpenAI, elle repose donc sur une couche de compatibilité qui mappe un sous-ensemble de paramètres.

Obtenir une clé API

Créez une clé depuis le tableau de bord Cohere. Ajoutez-la à votre fichier .env :

COHERE_API_KEY=your-api-key

Configuration

Ajoutez l'endpoint sous endpoints.custom dans votre librechat.yaml :

    - name: "cohere"
      apiKey: "${COHERE_API_KEY}"
      baseURL: "https://api.cohere.ai/v1"
      models:
        default: ["command-r","command-r-plus","command-light","command-light-nightly","command","command-nightly"]
        fetch: false
      modelDisplayLabel: "cohere"
      titleModel: "command"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty", "temperature", "top_p"]

Notes

• Cohere ne suit pas la spécification OpenAI. Une couche de compatibilité mappe un sous-ensemble des paramètres OpenAI vers les équivalents de Cohere : stop vers stopSequences, top_p vers p, frequency_penalty vers frequencyPenalty, et presence_penalty vers presencePenalty (chacun avec des plages min/max différentes). model et stream sont partagés et envoyés par défaut ; max_tokens est mappé vers maxTokens mais n'est pas envoyé par défaut. L'exemple ci-dessus utilise dropParams pour supprimer la plupart de ces paramètres et revenir aux valeurs par défaut de Cohere.
• Pour la liste complète des paramètres spécifiques à Cohere, consultez la documentation de l'API Cohere.