Cấu trúc đối tượng Model Specs

Tổng quan

Đối tượng modelSpecs giúp bạn cung cấp trải nghiệm giao diện người dùng đơn giản hơn cho các mô hình AI trong ứng dụng của mình.

Có 3 trường chính trong modelSpecs:

• enforce (tùy chọn; mặc định: false)
• prioritize (tùy chọn; mặc định: true)
• list (bắt buộc)
• addedEndpoints (tùy chọn)

Ghi chú:

• Nếu enforce được đặt thành true, các Model Specs có thể gây xung đột với các cài đặt giao diện khác như modelSelect, presets và parameters.
• Mảng list chứa các cấu hình chi tiết cho từng model, bao gồm các cài đặt sẵn (presets) quy định các hành vi, giao diện và khả năng cụ thể.
• Nếu các trường interface không được chỉ định trong cấu hình, việc có một danh sách Model Specs sẽ vô hiệu hóa các thành phần giao diện sau:
  • modelSelect
  • parameters
  • presets
• Nếu bạn muốn bật các thành phần giao diện này cùng với Model Specs, bạn có thể đặt chúng thành true trong đối tượng interface.

Ví dụ

modelSpecs:
  enforce: true
  prioritize: true
  list:
    - name: 'meeting-notes-gpt4'
      label: 'Meeting Notes Assistant (GPT4)'
      softDefault: true
      description: 'Generate meeting notes by simply pasting in the transcript from a Teams recording.'
      iconURL: 'https://example.com/icon.png'
      showOnLanding: true
      conversation_starters:
        - 'Summarize this meeting transcript'
        - 'Extract action items and owners'
      hideBadgeRow: true
      skills:
        - 'brand-guidelines'
        - 'meeting-notes'
      subagents:
        enabled: true
        allowSelf: true
        agent_ids: []
      preset:
        endpoint: 'azureOpenAI'
        model: 'gpt-4-turbo-1106-preview'
        maxContextTokens: 128000 # Maximum context tokens
        max_tokens: 4096 # Maximum output tokens
        temperature: 0.2
        modelLabel: 'Meeting Summarizer'
        greeting: |
          This assistant creates meeting notes based on transcripts of Teams recordings.
          To start, simply paste the transcript into the chat box.
        promptPrefix: |
          Based on the transcript, create coherent meeting minutes for a business meeting. Include the following sections:
          - Date and Attendees
          - Agenda
          - Minutes
          - Action Items

          Focus on what items were discussed and/or resolved. List any open action items.
          The format should be a bulleted list of high level topics in chronological order, and then one or more concise sentences explaining the details.
          Each high level topic should have at least two sub topics listed, but add as many as necessary to support the high level topic. 

          - Do not start items with the same opening words.

          Take a deep breath and be sure to think step by step.

Các trường cấp cao nhất

enforce

Mặc định: false

Ví dụ:

modelSpecs:
  enforce: true

prioritize

Mặc định: true

Ví dụ:

modelSpecs:
  prioritize: false

addedEndpoints

Mặc định: [] (danh sách trống)

Lưu ý: Phải là một trong những giá trị sau:

• openAI, azureOpenAI, google, anthropic, assistants, azureAssistants, bedrock, agents

Ví dụ:

modelSpecs:
  # ... other modelSpecs fields
  addedEndpoints:
    - openAI
    - google

list

Bắt buộc

Model Spec (Mục danh sách)

Trong mỗi Model Spec, hoặc mỗi mục trong list, bạn có thể cấu hình các trường sau:

name

Mô tả: Định danh duy nhất cho model.

label

Mô tả: Một tên hoặc nhãn thân thiện với người dùng cho model, được hiển thị trong menu thả xuống ở phần tiêu đề.

default

Mô tả:
Chỉ định xem Model Specs này có phải là lựa chọn mặc định hay không, để được tự động chọn trong mỗi cuộc trò chuyện mới.

softDefault

Mô tả:

Chỉ định giá trị mặc định cho lần chạy đầu tiên mà không ghi đè lên các lựa chọn sau này của người dùng. Sử dụng softDefault khi bạn muốn hướng người dùng mới đến một Model Specs được chọn lọc kỹ lưỡng, đồng thời vẫn bảo toàn quyền lựa chọn của người dùng sau khi họ đã chọn một model, spec hoặc agent khác.

Việc xem một cuộc trò chuyện cũ sử dụng một spec mặc định mềm (soft-default) sẽ không kích hoạt lại spec đó làm mặc định cho người dùng sau khi họ đã thực hiện một lựa chọn khác.

Ví dụ:

modelSpecs:
  list:
    - name: 'general-assistant'
      label: 'General Assistant'
      softDefault: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o-mini'

iconURL

Mô tả:
URL hoặc tên endpoint được xác định trước cho biểu tượng của model trong bộ chọn, tiêu đề và thương hiệu cuộc trò chuyện. Sử dụng showIconInMenu và showIconInHeader để kiểm soát vị trí hiển thị biểu tượng.

description

Description: Một mô tả ngắn gọn về model và mục đích sử dụng hoặc vai trò của nó, được hiển thị trong bộ chọn model. Nếu showOnLanding được đặt là true, mô tả tương tự cũng sẽ được hiển thị trên trang đích của cuộc trò chuyện bên dưới nhãn spec.

Các mô tả văn bản thuần túy sẽ hiển thị dưới dạng văn bản. Các mô tả bắt đầu bằng < sẽ được hiển thị thông qua bộ lọc HTML của cấu hình, cho phép sử dụng các thẻ đánh dấu nội tuyến an toàn và phương tiện như các biểu tượng nhỏ.

conversation_starters

Mô tả: Conversation starters cung cấp cho người dùng các gợi ý đầu tiên được tuyển chọn cho một Model Specs. Chúng được hiển thị trên trang đích của cuộc trò chuyện trống đối với spec đã chọn và đặc biệt hữu ích với tính năng branding showOnLanding. Việc nhấp vào một gợi ý sẽ gửi nó dưới dạng tin nhắn đầu tiên của một cuộc trò chuyện mới.

• Tối đa 4 gợi ý bắt đầu (starters) được hiển thị, khớp với giới hạn của agent/assistant.
• Nếu preset của spec trỏ đến một agent hoặc assistant có định nghĩa các câu gợi ý bắt đầu cuộc trò chuyện riêng, thì các câu đó sẽ được ưu tiên.

Ví dụ:

modelSpecs:
  list:
    - name: 'meeting-notes'
      label: 'Meeting Notes'
      showOnLanding: true
      conversation_starters:
        - 'Summarize this meeting transcript'
        - 'Create action items with owners and due dates'
      preset:
        endpoint: 'agents'
        model: 'gpt-4o'

showOnLanding

Mặc định: false

Sử dụng tùy chọn này khi một Model Specs được chọn lọc cần hiển thị thương hiệu trên màn hình trò chuyện trống đầu tiên. Các Model Specs hiện có sẽ không thay đổi trừ khi showOnLanding được đặt thành true.

Ví dụ:

modelSpecs:
  list:
    - name: 'branded-assistant'
      label: 'Acme Research'
      description: '<span><img src="/assets/acme.svg" alt="Acme" /> Research with approved sources</span>'
      showOnLanding: true
      iconURL: '/assets/acme.svg'
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

group

Mô tả: Tên nhóm tùy chọn để sắp xếp các Model Specs trong bộ chọn giao diện người dùng. Trường group cung cấp khả năng kiểm soát linh hoạt cách sắp xếp các Model Specs:

• Nếu group khớp với tên một endpoint (ví dụ: "openAI", "groq"): Model spec sẽ xuất hiện dưới dạng lồng trong endpoint đó tại menu chọn.
• Nếu group là một tên tùy chỉnh (không khớp với bất kỳ endpoint nào): Tạo một phần có thể thu gọn riêng biệt với tên đó. Bạn có thể tùy chọn sử dụng groupIcon để đặt biểu tượng tùy chỉnh cho phần này (URL hoặc khóa tích hợp sẵn như "openAI")
• Nếu group bị bỏ qua: Model Specs sẽ xuất hiện dưới dạng một mục độc lập ở cấp cao nhất

Tính năng này đặc biệt hữu ích khi bạn muốn thêm mô tả vào các model mà không làm mất đi cấu trúc tổ chức của menu lựa chọn.

hideBadgeRow

Mặc định: false

Sử dụng tùy chọn này khi một Model Specs được chọn lọc không nên hiển thị hàng các huy hiệu công cụ/tính năng bên dưới trình soạn thảo.

Ví dụ:

modelSpecs:
  list:
    - name: 'general-assistant'
      label: 'General Assistant'
      hideBadgeRow: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o-mini'

Ví dụ:

modelSpecs:
  list:
    # Example 1: Nested under an endpoint
    # When group matches an endpoint name, the spec appears under that endpoint
    - name: 'gpt-4o-optimized'
      label: 'GPT-4 Optimized'
      description: 'Most capable GPT-4 model with multimodal support'
      group: 'openAI' # Appears nested under the OpenAI endpoint
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

    # Example 2: Custom group section with icon
    # When group is a custom name, it creates a separate collapsible section
    - name: 'coding-assistant'
      label: 'Coding Assistant'
      description: 'Specialized for coding tasks'
      group: 'My Assistants'
      groupIcon: 'https://example.com/icons/assistants.png' # Custom icon for the group
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

    # Multiple specs with the same group name are grouped together
    - name: 'writing-assistant'
      label: 'Writing Assistant'
      description: 'Specialized for creative writing'
      group: 'My Assistants' # Grouped with coding-assistant, uses its icon
      preset:
        endpoint: 'anthropic'
        model: 'claude-sonnet-4'

    # Example 3: Custom group using built-in icon
    - name: 'fast-model'
      label: 'Fast Model'
      group: 'Fast Models'
      groupIcon: 'groq' # Uses built-in Groq icon
      preset:
        endpoint: 'groq'
        model: 'llama3-8b-8192'

    # Example 4: Standalone (no group)
    # When group is omitted, the spec appears at the top level
    - name: 'general-assistant'
      label: 'General Assistant'
      description: 'General purpose assistant'
      # No group field - appears as standalone item at top level
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o-mini'

showIconInMenu

Mô tả:
Kiểm soát việc biểu tượng của model có xuất hiện trong menu thả xuống ở phần tiêu đề hay không. Mặc định là true.

showIconInHeader

Mô tả:
Kiểm soát việc biểu tượng của model có xuất hiện trong nút thả xuống ở tiêu đề, bên trái tên của nó hay không. Mặc định là true.

authType

Mô tả:
Loại xác thực bắt buộc cho Model Specs. Xác định xem xác thực có bị ghi đè, do người dùng cung cấp hay do hệ thống xác định hay không.

webSearch

Mô tả:
Cho phép khả năng tìm kiếm web cho Model Specs này. Khi được đặt thành true, mô hình có thể thực hiện tìm kiếm trên web để truy xuất thông tin hiện tại.

Ví dụ:

modelSpecs:
  list:
    - name: 'research-assistant'
      label: 'Research Assistant'
      webSearch: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

fileSearch

Mô tả:
Cho phép khả năng tìm kiếm tệp cho Model Specs này. Khi được đặt thành true, mô hình có thể tìm kiếm và tham chiếu các tệp đã tải lên.

Ví dụ:

modelSpecs:
  list:
    - name: 'document-analyst'
      label: 'Document Analyst'
      fileSearch: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

executeCode

Mô tả:
Cho phép khả năng thực thi mã cho Model Specs này. Khi được đặt thành true, mô hình có thể thực thi mã trong một môi trường sandbox.

Ví dụ:

modelSpecs:
  list:
    - name: 'code-assistant'
      label: 'Code Assistant'
      executeCode: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

mcpServers

Mô tả:
Danh sách các tên máy chủ Model Context Protocol (MCP) cần kích hoạt cho Model Specs này. Các máy chủ MCP mở rộng khả năng của mô hình bằng các công cụ và tài nguyên tùy chỉnh.

Ví dụ:

modelSpecs:
  list:
    - name: 'enhanced-assistant'
      label: 'Enhanced Assistant'
      mcpServers:
        - 'filesystem'
        - 'sequential-thinking'
        - 'fetch'
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

skills

Mô tả:

Kiểm soát các Kỹ năng (Skills) cho model spec này khi tính năng Kỹ năng của endpoint Agents khả dụng.

• true: kích hoạt danh mục Kỹ năng (Skill) khả dụng đang hoạt động của người dùng.
• false: vô hiệu hóa Skills cho spec này.
• Mảng các tên Skill: thu hẹp danh mục, gọi thủ công và độ phân giải luôn áp dụng cho các Skill được đặt tên.

Ví dụ:

modelSpecs:
  list:
    - name: 'brand-assistant'
      label: 'Brand Assistant'
      skills:
        - 'brand-guidelines'
        - 'approved-claims'
      preset:
        endpoint: 'agents'
        model: 'gpt-4o'

subagents

Mô tả:

Kiểm soát các Subagents cho các tác nhân tạm thời được tạo từ Model Specs này. Hãy sử dụng tính năng này khi bạn muốn một Model Specs được tinh chỉnh để hiển thị hành vi ủy quyền mà không yêu cầu người dùng phải tạo hoặc chọn một tác nhân cha cố định.

• enabled: thêm công cụ tạo subagent cho Model Specs này.
• allowSelf: cho phép tác nhân tạm thời tạo ra một bản sao cô lập mới của chính nó.
• agent_ids: cho phép các agent đã lưu cụ thể đóng vai trò là các subagent bổ sung. Danh sách này bị giới hạn bởi MAX_SUBAGENTS và vẫn nằm ở phía máy chủ; cấu hình khởi động được gửi đến máy khách chỉ bao gồm các cờ enabled và allowSelf công khai.

Khi Model Specs được thực thi, các cài đặt subagents của Model Specs sẽ có quyền ưu tiên cao hơn so với các giá trị trong payload của yêu cầu.

Ví dụ:

modelSpecs:
  list:
    - name: 'research-assistant'
      label: 'Research Assistant'
      subagents:
        enabled: true
        allowSelf: true
        agent_ids: []
      preset:
        endpoint: 'agents'
        model: 'gpt-4o'

artifacts

Mô tả:
Bật tính năng Artifacts cho Model Specs này, cho phép mô hình tạo và hiển thị các artifact tương tác như thành phần React, HTML và sơ đồ Mermaid. Khi được đặt thành true, chế độ artifact mặc định sẽ được sử dụng. Bạn cũng có thể chỉ định trực tiếp một chuỗi chế độ.

Ví dụ:

modelSpecs:
  list:
    - name: 'artifact-assistant'
      label: 'Artifact Assistant'
      artifacts: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

preset

Mô tả:
Các cấu hình cài đặt sẵn chi tiết xác định hành vi và khả năng của model (xem Cấu trúc Đối tượng Preset bên dưới).

Các trường Preset

Trường preset cho một mục trong modelSpecs.list được tạo thành từ một bản thiết kế cấu hình toàn diện cho các mô hình AI trong hệ thống. Nó được thiết kế để chỉ định các cài đặt vận hành của các mô hình AI, tùy chỉnh hành vi, đầu ra và sự tương tác của chúng với các thành phần hệ thống và endpoint khác.

Các tùy chọn hệ thống

endpoint

Bắt buộc

Các giá trị được chấp nhận:

• openAI
• azureOpenAI
• google
• anthropic
• assistants
• azureAssistants
• bedrock
• agents

Lưu ý: Nếu bạn đang sử dụng một endpoint tùy chỉnh, giá trị endpoint phải khớp chính xác với tên endpoint tùy chỉnh đã được định nghĩa.

Ví dụ:

preset:
  endpoint: 'openAI'

modelLabel

Mặc định: None

Ví dụ:

preset:
  modelLabel: 'Customer Support Bot'

greeting

Mặc định: None

Ví dụ:

preset:
  greeting: 'This assistant creates meeting notes based on transcripts of Teams recordings. To start, simply paste the transcript into the chat box.'

promptPrefix

Mặc định: None

Ví dụ 1:

preset:
  promptPrefix: 'As a financial advisor, ...'

Ví dụ 2:

preset:
  promptPrefix: |
    Based on the transcript, create coherent meeting minutes for a business meeting. Include the following sections:
    - Date and Attendees
    - Agenda
    - Minutes
    - Action Items

    Focus on what items were discussed and/or resolved. List any open action items.
    The format should be a bulleted list of high level topics in chronological order, and then one or more concise sentences explaining the details.
    Each high level topic should have at least two sub topics listed, but add as many as necessary to support the high level topic. 

    - Do not start items with the same opening words.

    Take a deep breath and be sure to think step by step.

resendFiles

Mặc định: true

Ví dụ:

preset:
  resendFiles: true

imageDetail

Các giá trị được chấp nhận:

• thấp
• tự động
• cao

Mặc định: "auto"

Ví dụ:

preset:
  imageDetail: 'high'

maxContextTokens

Ví dụ:

preset:
  maxContextTokens: 4096

Tùy chọn Agent

Lưu ý rằng các tùy chọn này chỉ áp dụng khi sử dụng endpoint agents.

Bạn nên loại trừ mọi tùy chọn mô hình và ưu tiên cấu hình của tác nhân (agent) như đã được xác định trong giao diện người dùng (UI).

agent_id

Ví dụ:

preset:
  agent_id: 'agent_someUniqueId'

Tùy chọn Trợ lý

Lưu ý rằng các tùy chọn này chỉ áp dụng khi sử dụng endpoint assistants hoặc azureAssistants.

Tương tự như Agents, bạn nên loại trừ mọi tùy chọn model và ưu tiên cấu hình của trợ lý.

assistant_id

Ví dụ:

preset:
  assistant_id: 'asst_someUniqueId'

instructions

Lưu ý: điều này khác với promptPrefix, vì nó ghi đè các hướng dẫn trợ lý hiện có cho các lần chạy hiện tại.

Chỉ sử dụng tùy chọn này nếu bạn muốn ghi đè các hướng dẫn cốt lõi của trợ lý.

Sử dụng promptPrefix cho additional_instructions.

Thông tin thêm:

• https://platform.openai.com/docs/api-reference/models#runs-createrun-instructions
• https://platform.openai.com/docs/api-reference/runs/createRun#runs-createrun-additional_instructions

Ví dụ:

preset:
  instructions: 'Please handle customer queries regarding order status.'

append_current_datetime

Thêm ngày và giờ hiện tại vào additional_instructions cho mỗi lần chạy. Không ghi đè lên promptPrefix, mà thêm vào đó.

Ví dụ:

preset:
  append_current_datetime: true

Các tùy chọn Model

Lưu ý: Mỗi tham số dưới đây bao gồm ghi chú về các endpoint hỗ trợ nó.
OpenAI / AzureOpenAI / Custom thường hỗ trợ temperature, presence_penalty, frequency_penalty, stop, top_p, max_tokens.
Google / Anthropic thường hỗ trợ topP, topK, maxOutputTokens; Google cũng hỗ trợ url_context trên các mô hình văn bản Gemini được hỗ trợ. Anthropic / OpenRouter / Bedrock (các mô hình Anthropic và Nova) hỗ trợ promptCache và promptCacheTtl. Bedrock hỗ trợ region, maxTokens và một vài tham số khác.

model

Được hỗ trợ bởi: Tất cả các endpoint (ngoại trừ agents)

Mặc định: None

Ví dụ:

preset:
  model: 'gpt-4-turbo'

temperature

Được hỗ trợ bởi: openAI, azureOpenAI, google (dưới dạng temperature), anthropic (dưới dạng temperature) và tùy chỉnh (giống OpenAI)

Ví dụ:

preset:
  temperature: 0.7

presence_penalty

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI)
Thường không được sử dụng bởi Google/Anthropic/Bedrock

Ví dụ:

preset:
  presence_penalty: 0.3

frequency_penalty

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI)
Thường không được sử dụng bởi Google/Anthropic/Bedrock

Ví dụ:

preset:
  frequency_penalty: 0.5

stop

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI)
Thường không được sử dụng bởi Google/Anthropic/Bedrock

Ví dụ:

preset:
  stop:
    - 'END'
    - 'STOP'

top_p

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI)
Google/Anthropic thường sử dụng topP (chữ “P” viết hoa) thay vì top_p.

Ví dụ:

preset:
  top_p: 0.9

topP

Được hỗ trợ bởi: google & anthropic
(có mục đích tương tự như top_p, nhưng được đặt tên khác trong các API đó)

Ví dụ:

preset:
  topP: 0.8

topK

Được hỗ trợ bởi: google & anthropic
(giới hạn k-sampling trên phân phối token tiếp theo)

Ví dụ:

preset:
  topK: 40

max_tokens

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI)
Đối với Google/Anthropic, hãy sử dụng maxOutputTokens hoặc maxTokens (tùy thuộc vào endpoint).

Ví dụ:

preset:
  max_tokens: 4096

maxOutputTokens

Được hỗ trợ bởi: google, anthropic
Tương đương với max_tokens cho các nhà cung cấp này.

Ví dụ:

preset:
  maxOutputTokens: 2048

promptCache

Được hỗ trợ bởi: anthropic, các endpoint tùy chỉnh của OpenRouter, bedrock (các mô hình Anthropic và Nova) (Bật/tắt bộ nhớ đệm prompt của nhà cung cấp)

Mặc định: true

Ví dụ:

preset:
  promptCache: true

Lưu ý: Đối với các endpoint Bedrock, tính năng prompt caching được tự động bật cho các model Claude và Nova. Hãy đặt promptCache: false để tắt tính năng này một cách tường minh.

promptCacheTtl

Được hỗ trợ bởi: anthropic, các endpoint tùy chỉnh của OpenRouter, bedrock (các mô hình Anthropic và Nova) (Thiết lập thời gian tồn tại của bộ nhớ đệm prompt khi tính năng prompt caching được bật)

Các giá trị được chấp nhận:

• 5m
• 1h

Ví dụ:

preset:
  promptCache: true
  promptCacheTtl: '1h'

Lưu ý: promptCacheTtl sẽ bị bỏ qua khi tính năng prompt caching bị vô hiệu hóa. Khi không được chỉ định, tích hợp nhà cung cấp sẽ sử dụng thời gian tồn tại prompt-cache mặc định của nó.

reasoning_effort

Các giá trị được chấp nhận:

• "" (chuỗi trống — chưa thiết lập, sử dụng mặc định của API)
• "none"
• "minimal"
• "low"
• "medium"
• "high"
• "xhigh" (cực cao)

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI), bedrock (các mô hình ZAI, MoonshotAI)

Mặc định: "" (chưa thiết lập)

Ví dụ:

preset:
  reasoning_effort: 'low'

reasoning_summary

Các giá trị được chấp nhận:

• "" (chuỗi trống — vô hiệu hóa tóm tắt suy luận)
• "auto"
• "concise"
• "detailed"

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI)

Mặc định: "" (đã tắt)

Ví dụ:

preset:
  reasoning_summary: 'detailed'

useResponsesApi

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI)

Mặc định: false

Ví dụ:

preset:
  useResponsesApi: true

verbosity

Các giá trị được chấp nhận:

• "" (chuỗi trống — chưa thiết lập, sử dụng mặc định của API)
• "low"
• "medium"
• "high"

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI)

Mặc định: "" (chưa thiết lập)

Ví dụ:

preset:
  verbosity: 'low'

web_search

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI), google, anthropic

Mặc định: false

Lưu ý: Đối với các endpoint của Google, tham số này xuất hiện dưới dạng Grounding with Google Search trong bảng điều khiển thực tế nhưng kiểm soát web_search trong quá trình triển khai.

Ví dụ:

preset:
  web_search: true

url_context

Được hỗ trợ bởi: google trên các mô hình văn bản Gemini được hỗ trợ, bao gồm Gemini 2.5+ và Gemini 3.x

Mặc định: false

Ví dụ:

preset:
  url_context: true

disableStreaming

Được hỗ trợ bởi: openAI, azureOpenAI, tùy chỉnh (giống OpenAI)

Mặc định: false

Ví dụ:

preset:
  disableStreaming: true

thinkingBudget

Được hỗ trợ bởi: google, anthropic, bedrock (các mô hình Anthropic)

Mặc định: "Auto (-1)" (Google), 2000 (Anthropic, Bedrock (các mô hình Anthropic))

Ví dụ:

preset:
  thinkingBudget: '2000'

thinkingLevel

Được hỗ trợ bởi: google (các mô hình Gemini 3+ trở lên)

Các giá trị được chấp nhận:

• "" (chưa thiết lập/tự động)
• "minimal"
• "low"
• "medium"
• "high"

Mặc định: "" (chưa thiết lập — mô hình sẽ tự quyết định)

Ví dụ:

preset:
  thinkingLevel: 'medium'

effort

Được hỗ trợ bởi: anthropic, bedrock (các mô hình Anthropic)

Các tùy chọn: "" (chưa thiết lập/tự động), "low", "medium", "high", "xhigh", "max"

Mặc định: "" (chưa thiết lập — mô hình sẽ tự quyết định)

Ví dụ:

preset:
  effort: 'high'

thinkingDisplay

Được hỗ trợ bởi: anthropic, bedrock (các mô hình Anthropic)

Các tùy chọn: "auto" (mặc định), "summarized", "omitted"

• "auto" — LibreChat tự quyết định: chọn "summarized" cho các model mặc định không có tư duy (Opus 4.7+ và các model thuộc lớp Fable/Mythos), và bỏ trống trường này đối với các model cũ hơn
• "summarized" — luôn yêu cầu một bản tóm tắt hậu kiểm (post-hoc) về quá trình suy luận
• "omitted" — luôn ẩn nội dung suy luận (độ trễ thấp hơn một chút)

Mặc định: "auto"

Ví dụ:

preset:
  thinkingDisplay: 'summarized'

thinking

Được hỗ trợ bởi: google, anthropic, bedrock (các mô hình Anthropic)

Mặc định: true

Ví dụ:

preset:
  thinking: true

region

Được hỗ trợ bởi: bedrock
(Được sử dụng để chỉ định một khu vực AWS cho Amazon Bedrock)

Ví dụ:

preset:
  region: 'us-east-1'

maxTokens

Được hỗ trợ bởi: bedrock
(Được sử dụng thay cho max_tokens)

Ví dụ:

preset:
  maxTokens: 1024