Cohere

A Cohere fornece a família de modelos Command, usada no LibreChat como um endpoint personalizado. Sua API não segue a especificação da OpenAI, portanto, ela depende de uma camada de compatibilidade que mapeia um subconjunto de parâmetros.

Obtenha uma API key

Crie uma chave no painel da Cohere. Adicione-a ao seu arquivo .env:

COHERE_API_KEY=your-api-key

Configuração

Adicione o endpoint em endpoints.custom no seu librechat.yaml:

    - name: "cohere"
      apiKey: "${COHERE_API_KEY}"
      baseURL: "https://api.cohere.ai/v1"
      models:
        default: ["command-r","command-r-plus","command-light","command-light-nightly","command","command-nightly"]
        fetch: false
      modelDisplayLabel: "cohere"
      titleModel: "command"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty", "temperature", "top_p"]

Notas

• O Cohere não segue a especificação da OpenAI. Uma camada de compatibilidade mapeia um subconjunto de parâmetros da OpenAI para os equivalentes do Cohere: stop para stopSequences, top_p para p, frequency_penalty para frequencyPenalty e presence_penalty para presencePenalty (cada um com diferentes intervalos de min/max). model e stream são compartilhados e enviados por padrão; max_tokens mapeia para maxTokens, mas não é enviado por padrão. O exemplo acima usa dropParams para remover a maioria deles e recorrer aos padrões do Cohere.
• Para a lista completa de parâmetros específicos da Cohere, consulte a documentação da API da Cohere.