Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

默认参数

注意

  • 文档的这一部分旨在帮助您理解 addParamsdropParams 的作用。您不能全局配置 LibreChat 默认发送的参数及其值,它们只能在单个 endpoint 内进行配置。

自定义 endpoint 与 OpenAI endpoint 共享逻辑,因此具有针对 OpenAI API 调整的默认参数。

{
  "model": "your-selected-model",
  "user": "LibreChat_User_ID",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "hi how are you",
    },
  ],
}

细分

  • model: 从模型列表中选择的模型。
  • user:一个代表您的最终用户的唯一标识符,可以帮助 OpenAI 监控和检测滥用行为
  • stream:如果设置,将像 ChatGPT 一样发送部分消息增量。否则,仅在生成完成后才可用。
  • messages: OpenAI 消息格式;当通过预设指定自定义名称时,name 字段会被添加到具有 systemassistant 角色的消息中。

注意: max_tokens 字段不会被发送以使用可用的最大 token 量,这是 OpenAI API 的默认行为。某些替代 API 需要此字段,否则它可能会默认为一个非常小的值,导致您的响应看起来被截断;在这种情况下,您应该将其添加到 addParams 字段中,如 自定义端点对象结构 所示。

这篇指南怎么样?