Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

模型配置结构

models 下的每一项都是记录列表的一部分,可以是布尔值或对象:

当将模型指定为对象时:

该对象允许对模型进行详细配置,包括其 deploymentName 和/或 version。此模式用于对模型进行更精细的控制,特别是在同一实例或资源组下使用多个版本或部署时。

示例:

models:
  gpt-4-vision-preview:
    deploymentName: "gpt-4-vision-preview"
    version: "2024-02-15-preview"

注意:

  • Deployment NamesVersions 对于确保使用正确的模型至关重要。
    • 请仔细核对这些数值的准确性,以防止出现意外行为。

deploymentName

键:

KeyTypeDescriptionExample
deploymentNameString该模型部署的名称。用于标识 Azure 中该模型的部署。This does not have to be the matching OpenAI model name as is convention, but must match the actual name of your deployment on Azure.

必需:

示例:

deploymentName: "gpt-4-vision-preview"

version

键:

KeyTypeDescriptionExample
versionString指定模型的版本。定义要使用的模型版本。

必需:

示例:

version: "2024-02-15-preview"

启用具有默认组配置的模型

键:

KeyTypeDescriptionExample
modelsBoolean启用具有默认组配置的模型。When a model is enabled (`true`) without using an object, it uses the group's configuration values for deployment name and version.

示例:

models:
  gpt-4-turbo: true

这篇指南怎么样?