Struktur Objek Model Specs
Gambaran Umum
Objek modelSpecs membantu Anda memberikan pengalaman UI yang lebih sederhana untuk model AI di dalam aplikasi Anda.
Terdapat 3 kolom utama di bawah modelSpecs:
enforce(opsional; default: false)prioritize(opsional; default: true)list(wajib)addedEndpoints(opsional)
Catatan:
- Jika
enforcediatur ke true, Model Specs berpotensi mengalami konflik dengan pengaturan antarmuka lainnya sepertimodelSelect,presets, danparameters. - Array
listberisi konfigurasi mendetail untuk setiap model, termasuk preset yang menentukan perilaku, tampilan, dan kemampuan tertentu. - Jika kolom interface tidak ditentukan dalam konfigurasi, memiliki daftar Model Specs akan menonaktifkan elemen antarmuka berikut:
modelSelectparameterspresets
- Jika Anda ingin mengaktifkan elemen antarmuka ini bersama dengan Model Specs, Anda dapat mengaturnya ke
truedi dalam objekinterface.
Mengelola kunci API yang disediakan pengguna dengan Model Specs
Saat Model Specs menonaktifkan modelSelect, menu tarik-turun endpoint — dan ikon roda gigi yang membuka dialog Set API Key — akan disembunyikan. Pengguna masih dapat mengatur atau merotasi kunci untuk endpoint mana pun yang dikonfigurasi dengan apiKey: "user_provided" dari Settings → Data controls → API keys.
Daftar tersebut dicakup ke endpoint yang benar-benar dapat diakses oleh pengguna: endpoint yang direferensikan oleh Model Specs Anda, ditambah addedEndpoints apa pun. Ketika endpoint agents dapat diakses, daftar tersebut juga menyertakan allowedProviders agen (atau setiap penyedia yang dikonfigurasi ketika allowedProviders dibiarkan tidak disetel).
Contoh
modelSpecs:
enforce: true
prioritize: true
list:
- name: 'meeting-notes-gpt4'
label: 'Meeting Notes Assistant (GPT4)'
softDefault: true
description: 'Generate meeting notes by simply pasting in the transcript from a Teams recording.'
iconURL: 'https://example.com/icon.png'
showOnLanding: true
conversation_starters:
- 'Summarize this meeting transcript'
- 'Extract action items and owners'
hideBadgeRow: true
skills:
- 'brand-guidelines'
- 'meeting-notes'
subagents:
enabled: true
allowSelf: true
agent_ids: []
preset:
endpoint: 'azureOpenAI'
model: 'gpt-4-turbo-1106-preview'
maxContextTokens: 128000 # Maximum context tokens
max_tokens: 4096 # Maximum output tokens
temperature: 0.2
modelLabel: 'Meeting Summarizer'
greeting: |
This assistant creates meeting notes based on transcripts of Teams recordings.
To start, simply paste the transcript into the chat box.
promptPrefix: |
Based on the transcript, create coherent meeting minutes for a business meeting. Include the following sections:
- Date and Attendees
- Agenda
- Minutes
- Action Items
Focus on what items were discussed and/or resolved. List any open action items.
The format should be a bulleted list of high level topics in chronological order, and then one or more concise sentences explaining the details.
Each high level topic should have at least two sub topics listed, but add as many as necessary to support the high level topic.
- Do not start items with the same opening words.
Take a deep breath and be sure to think step by step.Top-level Fields
enforce
| Key | Type | Description | Example |
|---|---|---|---|
| enforce | Boolean | Menentukan apakah Model Specs harus secara ketat menggantikan pengaturan konfigurasi lainnya. | Setting this to `true` can lead to conflicts with interface options if not managed carefully. |
Default: false
Contoh:
modelSpecs:
enforce: trueprioritize
| Key | Type | Description | Example |
|---|---|---|---|
| prioritize | Boolean | Menentukan apakah Model Specs harus diprioritaskan daripada konfigurasi default ketika keduanya dapat diterapkan. | When set to `true`, it ensures that a modelSpec is always selected in the UI. Doing this may prevent users from selecting different endpoints for the selected spec. |
Default: true
Contoh:
modelSpecs:
prioritize: falseaddedEndpoints
| Key | Type | Description | Example |
|---|---|---|---|
| addedEndpoints | Array of Strings | Mengizinkan endpoint tertentu (misalnya, "openAI", "google") untuk dapat dipilih di UI bersama dengan Model Specs yang telah ditentukan. | Requires `interface.modelSelect` to be `true`. If this field is used and `interface.modelSelect` is not explicitly set, `modelSelect` will default to `true`. |
Default: [] (daftar kosong)
Catatan: Harus salah satu dari berikut ini:
openAI, azureOpenAI, google, anthropic, assistants, azureAssistants, bedrock, agents
Contoh:
modelSpecs:
# ... other modelSpecs fields
addedEndpoints:
- openAI
- googlelist
Wajib
| Key | Type | Description | Example |
|---|---|---|---|
| list | Array of Objects | Berisi daftar spesifikasi model individual yang merinci berbagai konfigurasi dan perilaku. | Each object in the list details the configuration for a specific model, including its behaviors, appearance, and capabilities related to the application's functionality. |
Model Spec (Butir Daftar)
Di dalam setiap Model Spec, atau setiap item list, Anda dapat mengonfigurasi kolom-kolom berikut:
name
| Key | Type | Description | Example |
|---|---|---|---|
| name | String | Pengidentifikasi unik untuk model. | No default. Must be specified. |
Deskripsi: Pengidentifikasi unik untuk model tersebut.
label
| Key | Type | Description | Example |
|---|---|---|---|
| label | String | Nama atau label yang ramah pengguna untuk model tersebut, ditampilkan di menu tarik-turun header. | No default. Optional. |
Deskripsi: Nama atau label yang ramah pengguna untuk model tersebut, ditampilkan di menu tarik-turun header.
default
| Key | Type | Description | Example |
|---|---|---|---|
| default | Boolean | Menentukan apakah Model Specs ini adalah pilihan default, yang akan dipilih secara otomatis pada setiap obrolan baru. |
Deskripsi:
Menentukan apakah Model Specs ini merupakan pilihan default, yang akan dipilih secara otomatis pada setiap obrolan baru.
softDefault
| Key | Type | Description | Example |
|---|---|---|---|
| softDefault | Boolean | Menentukan apakah Model Specs ini hanya boleh dipilih untuk pengguna baru yang belum pernah memilih model, Model Specs, atau agen. |
Deskripsi:
Menentukan default saat pertama kali dijalankan tanpa menimpa pilihan pengguna di kemudian hari. Gunakan softDefault saat Anda ingin memandu pengguna baru ke Model Specs yang telah dikurasi sambil tetap menjaga pilihan pengguna setelah mereka memilih model, spec, atau agen lain.
Melihat percakapan lama yang menggunakan spec soft-default tidak akan mengaktifkan kembali spec tersebut sebagai default pengguna setelah mereka membuat pilihan lain.
Contoh:
modelSpecs:
list:
- name: 'general-assistant'
label: 'General Assistant'
softDefault: true
preset:
endpoint: 'openAI'
model: 'gpt-4o-mini'iconURL
| Key | Type | Description | Example |
|---|---|---|---|
| iconURL | String | URL atau nama endpoint yang telah ditentukan untuk ikon model di pemilih, header, dan branding percakapan. | No default. Optional. |
Deskripsi:
URL atau nama endpoint yang telah ditentukan sebelumnya untuk ikon model di pemilih, header, dan branding percakapan. Gunakan showIconInMenu dan showIconInHeader untuk mengontrol di mana ikon tersebut muncul.
description
| Key | Type | Description | Example |
|---|---|---|---|
| description | String | Deskripsi singkat mengenai model serta tujuan penggunaan atau perannya, yang ditampilkan pada pemilih model dan secara opsional di halaman awal obrolan. | No default. Optional. |
Description:
Deskripsi singkat mengenai model dan penggunaan atau peran yang dituju, ditampilkan pada pemilih model. Jika showOnLanding bernilai true, deskripsi yang sama juga akan ditampilkan pada halaman awal obrolan di bawah label spec.
Deskripsi teks biasa akan dirender sebagai teks. Deskripsi yang dimulai dengan < akan dirender melalui pembersih HTML konfigurasi, yang memungkinkan markup inline yang aman dan media seperti ikon kecil.
conversation_starters
| Key | Type | Description | Example |
|---|---|---|---|
| conversation_starters | Array of Strings | Prompt awal yang disarankan ditampilkan sebagai kartu yang dapat diklik pada halaman awal obrolan saat Model Specs ini dipilih. | No default. Optional. |
Deskripsi:
Conversation starters memberikan pengguna prompt awal yang telah dikurasi untuk sebuah Model Specs. Fitur ini ditampilkan pada halaman awal obrolan kosong untuk spec yang dipilih dan sangat berguna dengan branding showOnLanding. Mengeklik sebuah starter akan mengirimkannya sebagai pesan pertama dari percakapan baru.
- Maksimal 4 starter akan ditampilkan, menyesuaikan dengan batas agen/asisten.
- Jika preset pada spec mengarah ke agen atau asisten yang menentukan pemulai percakapan (conversation starters) miliknya sendiri, maka hal tersebut yang akan diutamakan.
Contoh:
modelSpecs:
list:
- name: 'meeting-notes'
label: 'Meeting Notes'
showOnLanding: true
conversation_starters:
- 'Summarize this meeting transcript'
- 'Create action items with owners and due dates'
preset:
endpoint: 'agents'
model: 'gpt-4o'showOnLanding
| Key | Type | Description | Example |
|---|---|---|---|
| showOnLanding | Boolean | Menampilkan label dan deskripsi Model Specs ini pada halaman awal obrolan sebagai pengganti salam default. | showOnLanding: true |
Default: false
Gunakan ini ketika spesifikasi model yang telah dikurasi harus memberikan branding pada layar obrolan kosong pertama. Spesifikasi model yang sudah ada tidak akan berubah kecuali showOnLanding diatur ke true.
Contoh:
modelSpecs:
list:
- name: 'branded-assistant'
label: 'Acme Research'
description: '<span><img src="/assets/acme.svg" alt="Acme" /> Research with approved sources</span>'
showOnLanding: true
iconURL: '/assets/acme.svg'
preset:
endpoint: 'openAI'
model: 'gpt-4o'group
| Key | Type | Description | Example |
|---|---|---|---|
| group | String | Nama grup opsional untuk mengatur Model Specs di pemilih UI. Mengontrol di mana spesifikasi muncul dalam hierarki menu. | No default. Optional. |
| groupIcon | String | Ikon opsional untuk grup kustom. Bisa berupa URL atau kunci endpoint bawaan (contoh: "openAI", "groq"). Hanya spec pertama dengan groupIcon di setiap grup yang akan digunakan. | No default. Optional. |
Deskripsi:
Nama grup opsional untuk mengatur Model Specs di pemilih UI. Bidang group memberikan kontrol fleksibel atas bagaimana Model Specs diatur:
- Jika
groupcocok dengan nama endpoint (contoh:"openAI","groq"): Model spec akan muncul bersarang di bawah endpoint tersebut dalam menu pemilih. - Jika
groupadalah nama kustom (tidak cocok dengan endpoint mana pun): Membuat bagian yang dapat diciutkan terpisah dengan nama tersebut. Anda dapat secara opsional menggunakangroupIconuntuk mengatur ikon kustom bagi bagian ini (URL atau kunci bawaan seperti"openAI") - Jika
groupdihilangkan: Model spec akan muncul sebagai item mandiri di tingkat teratas
Fitur ini sangat berguna ketika Anda ingin menambahkan deskripsi ke model tanpa menghilangkan struktur organisasi menu pemilih.
hideBadgeRow
| Key | Type | Description | Example |
|---|---|---|---|
| hideBadgeRow | Boolean | Menyembunyikan baris lencana alat untuk Model Specs ini di penyusun obrolan. | hideBadgeRow: true |
Default: false
Gunakan ini jika spesifikasi model yang telah dikurasi tidak perlu menampilkan baris lencana alat/kapabilitas di bawah komposer.
Contoh:
modelSpecs:
list:
- name: 'general-assistant'
label: 'General Assistant'
hideBadgeRow: true
preset:
endpoint: 'openAI'
model: 'gpt-4o-mini'Contoh:
modelSpecs:
list:
# Example 1: Nested under an endpoint
# When group matches an endpoint name, the spec appears under that endpoint
- name: 'gpt-4o-optimized'
label: 'GPT-4 Optimized'
description: 'Most capable GPT-4 model with multimodal support'
group: 'openAI' # Appears nested under the OpenAI endpoint
preset:
endpoint: 'openAI'
model: 'gpt-4o'
# Example 2: Custom group section with icon
# When group is a custom name, it creates a separate collapsible section
- name: 'coding-assistant'
label: 'Coding Assistant'
description: 'Specialized for coding tasks'
group: 'My Assistants'
groupIcon: 'https://example.com/icons/assistants.png' # Custom icon for the group
preset:
endpoint: 'openAI'
model: 'gpt-4o'
# Multiple specs with the same group name are grouped together
- name: 'writing-assistant'
label: 'Writing Assistant'
description: 'Specialized for creative writing'
group: 'My Assistants' # Grouped with coding-assistant, uses its icon
preset:
endpoint: 'anthropic'
model: 'claude-sonnet-4'
# Example 3: Custom group using built-in icon
- name: 'fast-model'
label: 'Fast Model'
group: 'Fast Models'
groupIcon: 'groq' # Uses built-in Groq icon
preset:
endpoint: 'groq'
model: 'llama3-8b-8192'
# Example 4: Standalone (no group)
# When group is omitted, the spec appears at the top level
- name: 'general-assistant'
label: 'General Assistant'
description: 'General purpose assistant'
# No group field - appears as standalone item at top level
preset:
endpoint: 'openAI'
model: 'gpt-4o-mini'showIconInMenu
| Key | Type | Description | Example |
|---|---|---|---|
| showIconInMenu | Boolean | Mengontrol apakah ikon model muncul di menu tarik-turun header. |
Deskripsi:
Mengontrol apakah ikon model muncul di menu tarik-turun header. Default-nya adalah true.
showIconInHeader
| Key | Type | Description | Example |
|---|---|---|---|
| showIconInHeader | Boolean | Mengontrol apakah ikon model muncul di tombol dropdown header, di sebelah kiri namanya. |
Deskripsi:
Mengontrol apakah ikon model muncul di tombol dropdown header, di sebelah kiri namanya. Default-nya adalah true.
authType
| Key | Type | Description | Example |
|---|---|---|---|
| authType | String | Tipe autentikasi yang diperlukan untuk Model Specs. | Optional. Possible values: "override_auth", "user_provided", "system_defined" |
Deskripsi:
Tipe autentikasi yang diperlukan untuk Model Specs. Menentukan apakah autentikasi diganti (overridden), disediakan oleh pengguna, atau ditentukan oleh sistem.
webSearch
| Key | Type | Description | Example |
|---|---|---|---|
| webSearch | Boolean | Mengaktifkan kemampuan pencarian web untuk Model Specs ini. | When true, the model can perform web searches. |
Deskripsi:
Mengaktifkan kemampuan pencarian web untuk spesifikasi model ini. Jika diatur ke true, model dapat melakukan pencarian web untuk mengambil informasi terkini.
Contoh:
modelSpecs:
list:
- name: 'research-assistant'
label: 'Research Assistant'
webSearch: true
preset:
endpoint: 'openAI'
model: 'gpt-4o'fileSearch
| Key | Type | Description | Example |
|---|---|---|---|
| fileSearch | Boolean | Mengaktifkan kemampuan pencarian file untuk Model Specs ini. | When true, the model can search through uploaded files. |
Deskripsi:
Mengaktifkan kemampuan pencarian file untuk Model Specs ini. Jika diatur ke true, model dapat mencari dan merujuk pada file yang diunggah.
Contoh:
modelSpecs:
list:
- name: 'document-analyst'
label: 'Document Analyst'
fileSearch: true
preset:
endpoint: 'openAI'
model: 'gpt-4o'executeCode
| Key | Type | Description | Example |
|---|---|---|---|
| executeCode | Boolean | Mengaktifkan kemampuan eksekusi kode untuk Model Specs ini. | When true, the model can execute code. |
Deskripsi:
Mengaktifkan kemampuan eksekusi kode untuk Model Specs ini. Jika diatur ke true, model dapat mengeksekusi kode di lingkungan yang terisolasi (sandboxed).
Contoh:
modelSpecs:
list:
- name: 'code-assistant'
label: 'Code Assistant'
executeCode: true
preset:
endpoint: 'openAI'
model: 'gpt-4o'mcpServers
| Key | Type | Description | Example |
|---|---|---|---|
| mcpServers | Array of Strings | Daftar nama server Model Context Protocol (MCP) yang akan diaktifkan untuk spesifikasi model ini. | Each string should match a configured MCP server name. |
Deskripsi:
Daftar nama server Model Context Protocol (MCP) yang akan diaktifkan untuk spesifikasi model ini. Server MCP memperluas kemampuan model dengan alat dan sumber daya kustom.
Contoh:
modelSpecs:
list:
- name: 'enhanced-assistant'
label: 'Enhanced Assistant'
mcpServers:
- 'filesystem'
- 'sequential-thinking'
- 'fetch'
preset:
endpoint: 'openAI'
model: 'gpt-4o'skills
| Key | Type | Description | Example |
|---|---|---|---|
| skills | Boolean or Array of Strings | Mengontrol Skill untuk spesifikasi model ini. Gunakan true untuk katalog yang dapat diakses dan aktif bagi pengguna, false untuk menonaktifkan Skill secara paksa, atau array nama Skill sebagai daftar izin yang ketat. | skills: ["brand-guidelines", "code-review"] |
Deskripsi:
Mengontrol Skills untuk spesifikasi model ini saat kapabilitas Skills endpoint Agents tersedia.
true: mengaktifkan katalog Skill yang dapat diakses oleh pengguna yang aktif.false: menonaktifkan Skills untuk spec ini.- Array nama Skill: mempersempit katalog, pemanggilan manual, dan resolusi always-apply ke Skill yang disebutkan.
Contoh:
modelSpecs:
list:
- name: 'brand-assistant'
label: 'Brand Assistant'
skills:
- 'brand-guidelines'
- 'approved-claims'
preset:
endpoint: 'agents'
model: 'gpt-4o'subagents
| Key | Type | Description | Example |
|---|---|---|---|
| subagents.enabled | Boolean | Mengaktifkan kemampuan Subagents untuk agen efemeral yang dibuat dari Model Specs ini. | enabled: true |
| subagents.allowSelf | Boolean | Memungkinkan agen ephemeral untuk membuat salinan terisolasi dari dirinya sendiri untuk pekerjaan yang terfokus. | allowSelf: true |
| subagents.agent_ids | Array of Strings | Daftar izinkan sisi server privat untuk ID agen tambahan yang dapat dibuat oleh spesifikasi model ini. | agent_ids: [] |
Deskripsi:
Mengontrol Subagent untuk agen efemeral yang dibuat dari Model Specs ini. Gunakan ini saat Anda ingin Model Specs yang dikurasi untuk mengekspos perilaku delegasi tanpa mengharuskan pengguna membuat atau memilih agen induk yang persisten.
enabled: menambahkan alat spawn subagent untuk Model Specs ini.allowSelf: memungkinkan agen efemeral untuk membuat salinan terisolasi yang baru dari dirinya sendiri.agent_ids: memungkinkan agen persisten tertentu sebagai subagen tambahan. Daftar ini dibatasi olehMAX_SUBAGENTSdan tetap berada di sisi server; konfigurasi startup yang dikirim ke klien hanya menyertakan flagenableddanallowSelfpublik.
Saat Model Specs diberlakukan, pengaturan subagents pada Model Specs bersifat otoritatif terhadap nilai payload permintaan.
Contoh:
modelSpecs:
list:
- name: 'research-assistant'
label: 'Research Assistant'
subagents:
enabled: true
allowSelf: true
agent_ids: []
preset:
endpoint: 'agents'
model: 'gpt-4o'artifacts
| Key | Type | Description | Example |
|---|---|---|---|
| artifacts | String | Boolean | Mengaktifkan kapabilitas Artifacts untuk model spec ini dan secara opsional mengatur mode artifact. | Set to `true` to enable with the default mode, `false` or omit to disable, or a specific mode string (e.g., `"default"`) to enable with that mode. |
Deskripsi:
Mengaktifkan kapabilitas Artifacts untuk Model Specs ini, yang memungkinkan model untuk membuat dan menampilkan artefak interaktif seperti komponen React, HTML, dan diagram Mermaid. Jika diatur ke true, mode artefak default akan digunakan. Anda juga dapat menentukan string mode secara langsung.
Contoh:
modelSpecs:
list:
- name: 'artifact-assistant'
label: 'Artifact Assistant'
artifacts: true
preset:
endpoint: 'openAI'
model: 'gpt-4o'preset
| Key | Type | Description | Example |
|---|---|---|---|
| preset | Object | Konfigurasi preset mendetail yang menentukan perilaku dan kapabilitas model. | See "Preset Object Structure" below. |
Deskripsi:
Konfigurasi preset mendetail yang menentukan perilaku dan kapabilitas model (lihat Struktur Objek Preset di bawah).
Bidang Preset
Bidang preset untuk item modelSpecs.list terdiri dari cetak biru konfigurasi komprehensif untuk model AI di dalam sistem. Bidang ini dirancang untuk menentukan pengaturan operasional model AI, menyesuaikan perilaku, output, serta interaksinya dengan komponen sistem dan endpoint lainnya.
Opsi Sistem
endpoint
Wajib
Nilai yang Diterima:
openAIazureOpenAIgoogleanthropicassistantsazureAssistantsbedrockagents
Catatan: Jika Anda menggunakan endpoint kustom, nilai endpoint harus sama persis dengan nama endpoint kustom yang telah ditentukan.
| Key | Type | Description | Example |
|---|---|---|---|
| endpoint | Enum (EModelEndpoint) or String (nullable) | Menentukan endpoint yang digunakan model untuk berkomunikasi guna menjalankan operasi. Pengaturan ini menentukan layanan eksternal atau internal yang dihubungkan oleh model. |
Contoh:
preset:
endpoint: 'openAI'modelLabel
| Key | Type | Description | Example |
|---|---|---|---|
| modelLabel | String (nullable) | Label yang digunakan untuk mengidentifikasi model di antarmuka pengguna atau log. Label ini menyediakan nama yang mudah dibaca manusia untuk model tersebut, yang ditampilkan di UI, serta diketahui oleh AI. | None |
Default: None
Contoh:
preset:
modelLabel: 'Customer Support Bot'greeting
| Key | Type | Description | Example |
|---|---|---|---|
| greeting | String | Pesan yang telah ditentukan sebelumnya yang terlihat di UI sebelum obrolan baru dimulai. Ini adalah cara yang baik untuk memberikan instruksi kepada pengguna, atau untuk membuat antarmuka tampak lebih ramah dan mudah diakses. |
Default: None
Contoh:
preset:
greeting: 'This assistant creates meeting notes based on transcripts of Teams recordings. To start, simply paste the transcript into the chat box.'promptPrefix
| Key | Type | Description | Example |
|---|---|---|---|
| promptPrefix | String (nullable) | Teks statis yang ditambahkan di awal setiap prompt yang dikirim ke model, untuk menetapkan konteks yang konsisten bagi respons. | When using "assistants" as the endpoint, this becomes the OpenAI field `additional_instructions`. |
Default: None
Contoh 1:
preset:
promptPrefix: 'As a financial advisor, ...'Contoh 2:
preset:
promptPrefix: |
Based on the transcript, create coherent meeting minutes for a business meeting. Include the following sections:
- Date and Attendees
- Agenda
- Minutes
- Action Items
Focus on what items were discussed and/or resolved. List any open action items.
The format should be a bulleted list of high level topics in chronological order, and then one or more concise sentences explaining the details.
Each high level topic should have at least two sub topics listed, but add as many as necessary to support the high level topic.
- Do not start items with the same opening words.
Take a deep breath and be sure to think step by step.resendFiles
| Key | Type | Description | Example |
|---|---|---|---|
| resendFiles | Boolean | Menunjukkan apakah file harus dikirim ulang dalam skenario di mana sesi persisten tidak dipertahankan. |
Default: true
Contoh:
preset:
resendFiles: trueimageDetail
Nilai yang Diterima:
- rendah
- otomatis
- tinggi
| Key | Type | Description | Example |
|---|---|---|---|
| imageDetail | Enum (eImageDetailSchema) | Menentukan tingkat detail yang diperlukan dalam tugas analisis gambar, berlaku untuk model dengan kemampuan visi (spesifikasi OpenAI). |
Default: "auto"
Contoh:
preset:
imageDetail: 'high'maxContextTokens
| Key | Type | Description | Example |
|---|---|---|---|
| maxContextTokens | Number | Jumlah maksimum token konteks yang akan diberikan kepada model. | Useful if you want to limit the maximum context for this preset. |
Contoh:
preset:
maxContextTokens: 4096Opsi Agen
Perhatikan bahwa opsi-opsi ini hanya berlaku saat menggunakan endpoint agents.
Anda harus mengecualikan opsi model apa pun dan mengikuti konfigurasi agen sebagaimana ditentukan dalam UI.
Pemfilteran Akses Agen (v0.8.0+)
Mulai dari v0.8.0, LibreChat menggunakan sistem izin berbasis ACL (Access Control List) untuk agen. Ketika Model Specs dikonfigurasi untuk menggunakan agen, setiap agen yang tidak memiliki akses bagi pengguna akan disaring secara otomatis, meskipun agen tersebut dikonfigurasi dalam Model Specs. Hal ini memastikan pengguna hanya melihat dan dapat menggunakan agen yang memiliki izin yang sesuai untuk mereka.
Untuk informasi lebih lanjut mengenai sistem izin ACL, lihat dokumentasi Agents.
agent_id
| Key | Type | Description | Example |
|---|---|---|---|
| agent_id | String | Identifikasi asisten. |
Contoh:
preset:
agent_id: 'agent_someUniqueId'Opsi Asisten
Perhatikan bahwa opsi-opsi ini hanya berlaku saat menggunakan endpoint assistants atau azureAssistants.
Mirip dengan Agents, Anda harus mengecualikan opsi model apa pun dan mengikuti konfigurasi asisten.
assistant_id
| Key | Type | Description | Example |
|---|---|---|---|
| assistant_id | String | Identifikasi asisten. |
Contoh:
preset:
assistant_id: 'asst_someUniqueId'instructions
Catatan: ini berbeda dari promptPrefix, karena ini menimpa instruksi asisten yang sudah ada untuk proses yang sedang berjalan.
Gunakan ini hanya jika Anda ingin menimpa instruksi inti asisten.
Gunakan promptPrefix untuk additional_instructions.
Informasi lebih lanjut:
- https://platform.openai.com/docs/api-reference/models#runs-createrun-instructions
- https://platform.openai.com/docs/api-reference/runs/createRun#runs-createrun-additional_instructions
| Key | Type | Description | Example |
|---|---|---|---|
| instructions | String | Menimpa instruksi default asisten. |
Contoh:
preset:
instructions: 'Please handle customer queries regarding order status.'append_current_datetime
Menambahkan tanggal dan waktu saat ini ke additional_instructions untuk setiap proses (run). Tidak menimpa promptPrefix, melainkan menambahkannya.
| Key | Type | Description | Example |
|---|---|---|---|
| append_current_datetime | Boolean | Menambahkan tanggal dan waktu saat ini ke `additional_instructions` sebagaimana ditentukan oleh `promptPrefix` |
Contoh:
preset:
append_current_datetime: trueOpsi Model
Catatan: Setiap parameter di bawah ini menyertakan catatan mengenai endpoint mana yang mendukungnya.
OpenAI / AzureOpenAI / Custom biasanya mendukungtemperature,presence_penalty,frequency_penalty,stop,top_p,max_tokens.
Google / Anthropic biasanya mendukungtopP,topK,maxOutputTokens; Google juga mendukungurl_contextpada model teks Gemini yang didukung. Anthropic / OpenRouter / Bedrock (model Anthropic dan Nova) mendukungpromptCachedanpromptCacheTtl. Bedrock mendukungregion,maxTokens, dan beberapa lainnya.
model
Didukung oleh: Semua endpoint (kecuali
agents)
| Key | Type | Description | Example |
|---|---|---|---|
| model | String (nullable) | Nama model yang akan digunakan untuk preset, yang harus sesuai dengan model yang dikonfigurasi di bawah endpoint yang dipilih. | None |
Default: None
Contoh:
preset:
model: 'gpt-4-turbo'temperature
Didukung oleh:
openAI,azureOpenAI,temperature),anthropic(sebagaitemperature), dan kustom (seperti OpenAI)
| Key | Type | Description | Example |
|---|---|---|---|
| temperature | Number | Mengontrol seberapa deterministik atau “kreatif” respons model tersebut. |
Contoh:
preset:
temperature: 0.7presence_penalty
Didukung oleh:
openAI,azureOpenAI, custom (mirip OpenAI)
Biasanya tidak digunakan oleh Google/Anthropic/Bedrock
| Key | Type | Description | Example |
|---|---|---|---|
| presence_penalty | Number | Penalti untuk token berulang, mendorong eksplorasi topik baru. |
Contoh:
preset:
presence_penalty: 0.3frequency_penalty
Didukung oleh:
openAI,azureOpenAI, custom (mirip OpenAI)
Biasanya tidak digunakan oleh Google/Anthropic/Bedrock
| Key | Type | Description | Example |
|---|---|---|---|
| frequency_penalty | Number | Penalti untuk token berulang, mengurangi redundansi dalam respons. |
Contoh:
preset:
frequency_penalty: 0.5stop
Didukung oleh:
openAI,azureOpenAI, custom (mirip OpenAI)
Biasanya tidak digunakan oleh Google/Anthropic/Bedrock
| Key | Type | Description | Example |
|---|---|---|---|
| stop | Array of Strings | Token henti untuk model, yang menginstruksikannya untuk mengakhiri respons jika ditemukan. |
Contoh:
preset:
stop:
- 'END'
- 'STOP'top_p
Didukung oleh:
openAI,azureOpenAI, custom (mirip OpenAI)
Google/Anthropic sering menggunakantopP(huruf “P” kapital) alih-alihtop_p.
| Key | Type | Description | Example |
|---|---|---|---|
| top_p | Number | Parameter nucleus sampling (0-1), yang mengontrol keacakan token. |
Contoh:
preset:
top_p: 0.9topP
Didukung oleh:
anthropic
(tujuan serupa dengantop_p, namun dinamai berbeda di API tersebut)
| Key | Type | Description | Example |
|---|---|---|---|
| topP | Number | Parameter nucleus sampling untuk endpoint Google/Anthropic. |
Contoh:
preset:
topP: 0.8topK
Didukung oleh:
anthropic
(batas k-sampling pada distribusi token berikutnya)
| Key | Type | Description | Example |
|---|---|---|---|
| topK | Number | Membatasi pemilihan token berikutnya ke K token teratas. |
Contoh:
preset:
topK: 40max_tokens
Didukung oleh:
openAI,azureOpenAI, custom (mirip OpenAI)
Untuk Google/Anthropic, gunakanmaxOutputTokensataumaxTokens(tergantung pada endpoint).
| Key | Type | Description | Example |
|---|---|---|---|
| max_tokens | Number | Jumlah maksimum token dalam respons model. |
Contoh:
preset:
max_tokens: 4096maxOutputTokens
Didukung oleh:
anthropic
Setara denganmax_tokensuntuk penyedia ini.
| Key | Type | Description | Example |
|---|---|---|---|
| maxOutputTokens | Number | Jumlah maksimum token dalam respons (Google/Anthropic). |
Contoh:
preset:
maxOutputTokens: 2048promptCache
Didukung oleh:
anthropic, endpoint kustom OpenRouter,bedrock(model Anthropic dan Nova) (Alihkan penembolokan prompt penyedia)
| Key | Type | Description | Example |
|---|---|---|---|
| promptCache | Boolean | Mengaktifkan atau menonaktifkan caching prompt penyedia. |
Default: true
Contoh:
preset:
promptCache: trueCatatan: Untuk endpoint Bedrock, prompt caching diaktifkan secara otomatis untuk model Claude dan Nova. Atur promptCache: false untuk menonaktifkannya secara eksplisit.
promptCacheTtl
Didukung oleh:
anthropic, endpoint kustom OpenRouter,bedrock(model Anthropic dan Nova) (Mengatur masa pakai cache prompt saat caching prompt diaktifkan)
| Key | Type | Description | Example |
|---|---|---|---|
| promptCacheTtl | Enum | Mengatur masa berlaku prompt-cache. Nilai yang didukung adalah `5m` dan `1h`. | Provider or SDK default |
Nilai yang Diterima:
5m1h
Contoh:
preset:
promptCache: true
promptCacheTtl: '1h'Catatan: promptCacheTtl diabaikan saat prompt caching dinonaktifkan. Jika tidak disertakan, integrasi penyedia akan menggunakan masa berlaku prompt-cache default-nya.
reasoning_effort
Nilai yang Diterima:
""(string kosong — tidak diatur, menggunakan default API)"none""minimal""low""medium""high""xhigh"(sangat tinggi)
Didukung oleh:
openAI,azureOpenAI, custom (mirip OpenAI),bedrock(model ZAI, MoonshotAI)
| Key | Type | Description | Example |
|---|---|---|---|
| reasoning_effort | String | Mengontrol tingkat upaya penalaran untuk model. Mengurangi upaya penalaran dapat menghasilkan respons yang lebih cepat dan penggunaan token yang lebih sedikit untuk penalaran. Opsi `xhigh` memberikan kemampuan penalaran maksimum untuk masalah yang kompleks. Untuk Bedrock, nilai yang diterima adalah `low`, `medium`, `high`. |
Default: "" (tidak diatur)
Contoh:
preset:
reasoning_effort: 'low'reasoning_summary
Nilai yang Diterima:
""(string kosong — menonaktifkan ringkasan penalaran)"auto""concise""detailed"
Didukung oleh:
openAI,azureOpenAI, custom (OpenAI-like)
| Key | Type | Description | Example |
|---|---|---|---|
| reasoning_summary | String | Mengatur preferensi ringkasan penalaran untuk model. |
Default: "" (dinonaktifkan)
Contoh:
preset:
reasoning_summary: 'detailed'useResponsesApi
Didukung oleh:
openAI,azureOpenAI, custom (OpenAI-like)
| Key | Type | Description | Example |
|---|---|---|---|
| useResponsesApi | Boolean | Mengaktifkan atau menonaktifkan API respons untuk model tersebut. |
Default: false
Contoh:
preset:
useResponsesApi: trueverbosity
Nilai yang Diterima:
""(string kosong — tidak diatur, menggunakan default API)"low""medium""high"
Didukung oleh:
openAI,azureOpenAI, custom (OpenAI-like)
| Key | Type | Description | Example |
|---|---|---|---|
| verbosity | String | Mengontrol tingkat verbositas respons model. |
Default: "" (tidak diatur)
Contoh:
preset:
verbosity: 'low'web_search
Didukung oleh:
openAI,azureOpenAI, custom (OpenAI-like),anthropic
| Key | Type | Description | Example |
|---|---|---|---|
| web_search | Boolean | Mengaktifkan atau menonaktifkan fungsionalitas pencarian web untuk model. |
Default: false
Catatan: Untuk endpoint Google, parameter ini muncul sebagai Grounding with Google Search di panel sebenarnya, namun mengontrol web_search dalam implementasinya.
Contoh:
preset:
web_search: trueurl_context
Didukung oleh:
| Key | Type | Description | Example |
|---|---|---|---|
| url_context | Boolean | Mengaktifkan Konteks URL Google agar model dapat membaca URL yang disertakan dalam pesan pengguna. Tautan YouTube akan dikonversi menjadi input pemahaman video asli jika memungkinkan. |
Default: false
Contoh:
preset:
url_context: truedisableStreaming
Didukung oleh:
openAI,azureOpenAI, custom (OpenAI-like)
| Key | Type | Description | Example |
|---|---|---|---|
| disableStreaming | Boolean | Menonaktifkan respons streaming dari model. |
Default: false
Contoh:
preset:
disableStreaming: truethinkingBudget
Didukung oleh:
anthropic,bedrock(model Anthropic)
| Key | Type | Description | Example |
|---|---|---|---|
| thinkingBudget | Number or String | Mengontrol jumlah token berpikir yang dapat digunakan model untuk penalaran internal. Anggaran yang lebih besar dapat meningkatkan kualitas respons untuk masalah yang kompleks. |
Default: "Auto (-1)" (Google), 2000 (Anthropic, Bedrock (Anthropic models))
Contoh:
preset:
thinkingBudget: '2000'thinkingLevel
Didukung oleh:
| Key | Type | Description | Example |
|---|---|---|---|
| thinkingLevel | String | Mengontrol tingkat upaya berpikir untuk model Gemini 3+. Model Gemini 2.5 menggunakan `thinkingBudget` sebagai gantinya. |
Nilai yang Diterima:
""(tidak diatur/otomatis)"minimal""low""medium""high"
Default: "" (tidak diatur — model yang memutuskan)
Contoh:
preset:
thinkingLevel: 'medium'effort
Didukung oleh:
anthropic,bedrock(model Anthropic)
| Key | Type | Description | Example |
|---|---|---|---|
| effort | String | Mengontrol tingkat upaya Adaptive Thinking untuk model Anthropic yang didukung (misalnya, Claude Opus 4.6+ dan model kelas Claude Fable/Mythos). Tingkat upaya yang lebih tinggi mengalokasikan lebih banyak token pemikiran untuk masalah yang kompleks. |
Opsi: "" (tidak diatur/otomatis), "low", "medium", "high", "xhigh", "max"
Default: "" (tidak diatur — model yang memutuskan)
Contoh:
preset:
effort: 'high'thinkingDisplay
Didukung oleh:
anthropic,bedrock(model Anthropic)
| Key | Type | Description | Example |
|---|---|---|---|
| thinkingDisplay | String | Mengontrol apakah konten penalaran dikembalikan dalam respons model. Model Claude Opus 4.7+ dan kelas Claude Fable/Mythos menghilangkan konten pemikiran secara default; pengaturan ini memungkinkan Anda untuk memilih ringkasan penalaran atau menekan konten tersebut secara eksplisit. |
Opsi: "auto" (default), "summarized", "omitted"
"auto"— LibreChat memutuskan: memilih"summarized"untuk model yang secara default menghilangkan proses berpikir (Opus 4.7+ dan kelas Fable/Mythos), dan membiarkan kolom tersebut kosong untuk model yang lebih lama"summarized"— selalu minta ringkasan post-hoc dari penalaran tersebut"omitted"— selalu menekan konten penalaran (latensi sedikit lebih rendah)
Default: "auto"
Contoh:
preset:
thinkingDisplay: 'summarized'thinking
Didukung oleh:
anthropic,bedrock(model Anthropic)
| Key | Type | Description | Example |
|---|---|---|---|
| thinking | Boolean | Menunjukkan apakah model harus meluangkan waktu untuk berpikir sebelum menghasilkan respons. |
Default: true
Contoh:
preset:
thinking: trueregion
Didukung oleh:
bedrock
(Digunakan untuk menentukan wilayah AWS untuk Amazon Bedrock)
| Key | Type | Description | Example |
|---|---|---|---|
| region | String | Wilayah AWS untuk endpoint Amazon Bedrock. |
Contoh:
preset:
region: 'us-east-1'maxTokens
Didukung oleh:
bedrock
(Digunakan sebagai penggantimax_tokens)
| Key | Type | Description | Example |
|---|---|---|---|
| maxTokens | Number | Token output maksimum untuk endpoint Amazon Bedrock. |
Contoh:
preset:
maxTokens: 1024Bagaimana panduan ini?