Paramètres par défaut

Note

• Le but de cette partie de la documentation est d'aider à comprendre ce que font addParams et dropParams. Vous NE POUVEZ PAS configurer globalement les paramètres et leurs valeurs que LibreChat envoie par défaut ; cela ne peut être configuré qu'au sein d'un seul endpoint.

Les endpoints personnalisés partagent la logique avec l'endpoint OpenAI et possèdent donc des paramètres par défaut adaptés à l'API OpenAI.

{
  "model": "your-selected-model",
  "user": "LibreChat_User_ID",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "hi how are you",
    },
  ],
}

Répartition

• model : Le modèle sélectionné dans la liste des modèles.
• user : Un identifiant unique représentant votre utilisateur final, qui peut aider OpenAI à surveiller et détecter les abus.
• stream : Si défini, les deltas de message partiels seront envoyés, comme dans ChatGPT. Sinon, la génération ne sera disponible qu'une fois terminée.
• messages : format OpenAI pour les messages ; le champ name est ajouté aux messages avec les rôles system et assistant lorsqu'un nom personnalisé est spécifié via un preset.

Note : Le champ max_tokens n'est pas envoyé afin d'utiliser le nombre maximal de jetons disponibles, ce qui correspond au comportement par défaut de l'API OpenAI. Certaines API alternatives exigent ce champ, ou peuvent utiliser une valeur par défaut très faible, ce qui peut entraîner une coupure de vos réponses ; dans ce cas, vous devez l'ajouter au champ addParams comme indiqué dans la Structure de l'objet de point de terminaison personnalisé.