Parámetros predeterminados

Nota

• El propósito de esta parte de la documentación es ayudar a entender qué hacen addParams y dropParams. NO PUEDES configurar globalmente los parámetros y sus valores que LibreChat envía por defecto; solo se pueden configurar dentro de un endpoint individual.

Los endpoints personalizados comparten lógica con el endpoint de OpenAI y, por lo tanto, tienen parámetros predeterminados adaptados a la API de OpenAI.

{
  "model": "your-selected-model",
  "user": "LibreChat_User_ID",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "hi how are you",
    },
  ],
}

Desglose

• model: El modelo seleccionado de la lista de modelos.
• user: Un identificador único que representa a su usuario final, el cual puede ayudar a OpenAI a monitorear y detectar abusos.
• stream: Si se establece, se enviarán deltas de mensajes parciales, como en ChatGPT. De lo contrario, la generación solo estará disponible una vez completada.
• messages: Formato de OpenAI para mensajes; el campo name se añade a los mensajes con roles system y assistant cuando se especifica un nombre personalizado a través de un preset.

Nota: El campo max_tokens no se envía para utilizar la cantidad máxima de tokens disponibles, lo cual es el comportamiento predeterminado de la API de OpenAI. Algunas APIs alternativas requieren este campo, o pueden establecer un valor predeterminado muy bajo y hacer que sus respuestas parezcan cortadas; en este caso, debe añadirlo al campo addParams como se muestra en la Estructura del objeto de endpoint personalizado.