Cohere

Cohere levert de Command-familie van modellen, die in LibreChat wordt gebruikt als een custom endpoint. De API volgt niet de OpenAI spec, dus vertrouwt het op een compatibiliteitslaag die een subset van parameters toewijst.

Een API-sleutel verkrijgen

Maak een sleutel aan via het Cohere dashboard. Voeg deze toe aan je .env bestand:

COHERE_API_KEY=your-api-key

Configuratie

Voeg het endpoint toe onder endpoints.custom in je librechat.yaml:

    - name: "cohere"
      apiKey: "${COHERE_API_KEY}"
      baseURL: "https://api.cohere.ai/v1"
      models:
        default: ["command-r","command-r-plus","command-light","command-light-nightly","command","command-nightly"]
        fetch: false
      modelDisplayLabel: "cohere"
      titleModel: "command"
      dropParams: ["stop", "user", "frequency_penalty", "presence_penalty", "temperature", "top_p"]

Opmerkingen

• Cohere volgt de OpenAI spec niet. Een compatibiliteitslaag koppelt een subset van OpenAI-parameters aan de equivalenten van Cohere: stop naar stopSequences, top_p naar p, frequency_penalty naar frequencyPenalty, en presence_penalty naar presencePenalty (elk met verschillende min/max-bereiken). model en stream worden gedeeld en standaard verzonden; max_tokens koppelt naar maxTokens, maar wordt niet standaard verzonden. Het bovenstaande voorbeeld gebruikt dropParams om de meeste hiervan te verwijderen en terug te vallen op de standaardinstellingen van Cohere.
• Voor de volledige lijst met Cohere-specifieke parameters, zie de Cohere API documentation.