Cohere

Cohere proporciona la familia de modelos Command, utilizados en LibreChat como un endpoint personalizado. Su API no sigue la especificación de OpenAI, por lo que depende de una capa de compatibilidad que mapea un subconjunto de parámetros.

Obtener una API key

Cree una clave desde el Cohere dashboard. Añádala a su archivo .env:

COHERE_API_KEY=your-api-key

Configuración

Agregue el endpoint bajo endpoints.custom en su librechat.yaml:

    - name: "cohere"
      apiKey: "${COHERE_API_KEY}"
      baseURL: "https://api.cohere.ai/v1"
      models:
        default: ["command-r","command-r-plus","command-light","command-light-nightly","command","command-nightly"]
        fetch: false
      modelDisplayLabel: "cohere"
      titleModel: "command"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty", "temperature", "top_p"]

Notas

• Cohere no sigue la especificación de OpenAI. Una capa de compatibilidad asigna un subconjunto de parámetros de OpenAI a sus equivalentes en Cohere: stop a stopSequences, top_p a p, frequency_penalty a frequencyPenalty y presence_penalty a presencePenalty (cada uno con diferentes rangos mínimos/máximos). model y stream son compartidos y se envían de forma predeterminada; max_tokens se asigna a maxTokens pero no se envía de forma predeterminada. El ejemplo anterior utiliza dropParams para eliminar la mayoría de estos y recurrir a los valores predeterminados de Cohere.
• Para obtener la lista completa de parámetros específicos de Cohere, consulte la documentación de la API de Cohere.