Objectstructuur van Model Specs

Overzicht

Het modelSpecs object helpt je bij het bieden van een eenvoudigere UI-ervaring voor AI-modellen binnen je applicatie.

Er zijn 3 hoofdvelden onder modelSpecs:

• enforce (optioneel; standaard: false)
• prioritize (optioneel; standaard: true)
• list (vereist)
• addedEndpoints (optioneel)

Opmerkingen:

• Als enforce is ingesteld op true, kunnen Model Specs potentieel conflicteren met andere interface-instellingen zoals modelSelect, presets en parameters.
• De list array bevat gedetailleerde configuraties voor elk model, inclusief presets die specifiek gedrag, uiterlijk en mogelijkheden bepalen.
• Als interface velden niet zijn opgegeven in de configuratie, zal het hebben van een lijst met Model Specs de volgende interface-elementen uitschakelen:
  • modelSelect
  • parameters
  • presets
• Als je deze interface-elementen samen met Model Specs wilt inschakelen, kun je ze op true zetten in het interface object.

Voorbeeld

modelSpecs:
  enforce: true
  prioritize: true
  list:
    - name: 'meeting-notes-gpt4'
      label: 'Meeting Notes Assistant (GPT4)'
      softDefault: true
      description: 'Generate meeting notes by simply pasting in the transcript from a Teams recording.'
      iconURL: 'https://example.com/icon.png'
      showOnLanding: true
      conversation_starters:
        - 'Summarize this meeting transcript'
        - 'Extract action items and owners'
      hideBadgeRow: true
      skills:
        - 'brand-guidelines'
        - 'meeting-notes'
      subagents:
        enabled: true
        allowSelf: true
        agent_ids: []
      preset:
        endpoint: 'azureOpenAI'
        model: 'gpt-4-turbo-1106-preview'
        maxContextTokens: 128000 # Maximum context tokens
        max_tokens: 4096 # Maximum output tokens
        temperature: 0.2
        modelLabel: 'Meeting Summarizer'
        greeting: |
          This assistant creates meeting notes based on transcripts of Teams recordings.
          To start, simply paste the transcript into the chat box.
        promptPrefix: |
          Based on the transcript, create coherent meeting minutes for a business meeting. Include the following sections:
          - Date and Attendees
          - Agenda
          - Minutes
          - Action Items

          Focus on what items were discussed and/or resolved. List any open action items.
          The format should be a bulleted list of high level topics in chronological order, and then one or more concise sentences explaining the details.
          Each high level topic should have at least two sub topics listed, but add as many as necessary to support the high level topic. 

          - Do not start items with the same opening words.

          Take a deep breath and be sure to think step by step.

Top-level velden

enforce

Standaard: false

Voorbeeld:

modelSpecs:
  enforce: true

prioritize

Standaard: true

Voorbeeld:

modelSpecs:
  prioritize: false

addedEndpoints

Standaard: [] (lege lijst)

Let op: Moet een van de volgende zijn:

• openAI, azureOpenAI, google, anthropic, assistants, azureAssistants, bedrock, agents

Voorbeeld:

modelSpecs:
  # ... other modelSpecs fields
  addedEndpoints:
    - openAI
    - google

list

Vereist

Model Spec (List Item)

Binnen elke Model Spec, of elk list-item, kun je de volgende velden configureren:

name

Beschrijving: Unieke identificatiecode voor het model.

label

Beschrijving: Een gebruiksvriendelijke naam of label voor het model, getoond in de vervolgkeuzelijst in de koptekst.

default

Beschrijving:
Geeft aan of deze Model Specs de standaardselectie is, die automatisch wordt geselecteerd bij elke nieuwe chat.

softDefault

Beschrijving:

Specificeert een standaardinstelling voor de eerste keer opstarten zonder de latere selecties van een gebruiker te overschrijven. Gebruik softDefault wanneer je nieuwe gebruikers wilt begeleiden naar een samengestelde spec, terwijl de keuze van de gebruiker behouden blijft nadat ze een ander model, spec of agent hebben gekozen.

Het bekijken van een oudere conversatie die een soft-default spec gebruikte, stelt die spec niet opnieuw in als de standaard van de gebruiker nadat deze een andere selectie heeft gemaakt.

Voorbeeld:

modelSpecs:
  list:
    - name: 'general-assistant'
      label: 'General Assistant'
      softDefault: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o-mini'

iconURL

Beschrijving:
URL of een vooraf gedefinieerde endpoint-naam voor het icoon van het model in de selector, header en conversatie-branding. Gebruik showIconInMenu en showIconInHeader om te bepalen waar het icoon wordt weergegeven.

description

Description: Een korte beschrijving van het model en het beoogde gebruik of de rol ervan, weergegeven in de modelkiezer. Als showOnLanding op true staat, wordt dezelfde beschrijving ook getoond op de chat-landingspagina onder het spec-label.

Platte tekstbeschrijvingen worden weergegeven als tekst. Beschrijvingen die beginnen met < worden weergegeven via de config HTML-sanitizer, wat veilige inline markup en media zoals kleine iconen toestaat.

conversation_starters

Beschrijving: Conversation starters bieden gebruikers samengestelde eerste prompts voor een Model Specs. Ze worden getoond op de lege chat-landingspagina voor de geselecteerde spec en zijn bijzonder nuttig met showOnLanding branding. Door op een starter te klikken, wordt deze ingediend als het eerste bericht van een nieuw gesprek.

• Er worden maximaal 4 starters weergegeven, in overeenstemming met de limiet voor de agent/assistent.
• Als de preset van de spec verwijst naar een agent of assistant die zijn eigen gespreksstarters definieert, dan krijgen deze voorrang.

Voorbeeld:

modelSpecs:
  list:
    - name: 'meeting-notes'
      label: 'Meeting Notes'
      showOnLanding: true
      conversation_starters:
        - 'Summarize this meeting transcript'
        - 'Create action items with owners and due dates'
      preset:
        endpoint: 'agents'
        model: 'gpt-4o'

showOnLanding

Standaard: false

Gebruik dit wanneer een samengestelde Model Specs het eerste lege chat-scherm moet branden. Bestaande Model Specs blijven ongewijzigd, tenzij showOnLanding is ingesteld op true.

Voorbeeld:

modelSpecs:
  list:
    - name: 'branded-assistant'
      label: 'Acme Research'
      description: '<span><img src="/assets/acme.svg" alt="Acme" /> Research with approved sources</span>'
      showOnLanding: true
      iconURL: '/assets/acme.svg'
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

group

Beschrijving: Optionele groepsnaam voor het organiseren van Model Specs in de UI-selector. Het group veld biedt flexibele controle over hoe Model Specs worden georganiseerd:

• Als group overeenkomt met een endpoint-naam (bijv. "openAI", "groq"): De Model Specs verschijnt genest onder dat endpoint in het selectiemenu
• Als group een aangepaste naam is (komt niet overeen met een endpoint): Maakt een afzonderlijke inklapbare sectie met die naam aan. Je kunt optioneel groupIcon gebruiken om een aangepast icoon voor deze sectie in te stellen (URL of ingebouwde sleutel zoals "openAI").
• Als group wordt weggelaten: De Model Specs verschijnt als een zelfstandig item op het hoogste niveau

Deze functie is bijzonder nuttig wanneer je beschrijvingen aan modellen wilt toevoegen zonder de organisatorische structuur van het keuzemenu te verliezen.

hideBadgeRow

Standaard: false

Gebruik dit wanneer een samengestelde Model Specs geen rij met tool-/mogelijkheden-badges onder de composer mag tonen.

Voorbeeld:

modelSpecs:
  list:
    - name: 'general-assistant'
      label: 'General Assistant'
      hideBadgeRow: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o-mini'

Voorbeeld:

modelSpecs:
  list:
    # Example 1: Nested under an endpoint
    # When group matches an endpoint name, the spec appears under that endpoint
    - name: 'gpt-4o-optimized'
      label: 'GPT-4 Optimized'
      description: 'Most capable GPT-4 model with multimodal support'
      group: 'openAI' # Appears nested under the OpenAI endpoint
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

    # Example 2: Custom group section with icon
    # When group is a custom name, it creates a separate collapsible section
    - name: 'coding-assistant'
      label: 'Coding Assistant'
      description: 'Specialized for coding tasks'
      group: 'My Assistants'
      groupIcon: 'https://example.com/icons/assistants.png' # Custom icon for the group
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

    # Multiple specs with the same group name are grouped together
    - name: 'writing-assistant'
      label: 'Writing Assistant'
      description: 'Specialized for creative writing'
      group: 'My Assistants' # Grouped with coding-assistant, uses its icon
      preset:
        endpoint: 'anthropic'
        model: 'claude-sonnet-4'

    # Example 3: Custom group using built-in icon
    - name: 'fast-model'
      label: 'Fast Model'
      group: 'Fast Models'
      groupIcon: 'groq' # Uses built-in Groq icon
      preset:
        endpoint: 'groq'
        model: 'llama3-8b-8192'

    # Example 4: Standalone (no group)
    # When group is omitted, the spec appears at the top level
    - name: 'general-assistant'
      label: 'General Assistant'
      description: 'General purpose assistant'
      # No group field - appears as standalone item at top level
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o-mini'

showIconInMenu

Beschrijving:
Bepaalt of het icoon van het model in het vervolgkeuzemenu in de koptekst verschijnt. Standaard ingesteld op true.

showIconInHeader

Beschrijving:
Bepaalt of het icoon van het model wordt weergegeven in de vervolgkeuzeknop in de koptekst, links van de naam. Standaard ingesteld op true.

authType

Beschrijving:
Authenticatietype vereist voor de Model Specs. Bepaalt of authenticatie wordt overschreven, verstrekt door de gebruiker of gedefinieerd door het systeem.

webSearch

Beschrijving:
Schakelt de mogelijkheid tot webzoeken in voor deze Model Specs. Wanneer ingesteld op true, kan het model webzoekopdrachten uitvoeren om actuele informatie op te halen.

Voorbeeld:

modelSpecs:
  list:
    - name: 'research-assistant'
      label: 'Research Assistant'
      webSearch: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

fileSearch

Beschrijving:
Schakelt de mogelijkheid voor bestandszoekopdrachten in voor deze Model Specs. Wanneer ingesteld op true, kan het model geüploade bestanden doorzoeken en ernaar verwijzen.

Voorbeeld:

modelSpecs:
  list:
    - name: 'document-analyst'
      label: 'Document Analyst'
      fileSearch: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

executeCode

Beschrijving:
Schakelt de mogelijkheid tot code-uitvoering in voor deze Model Specs. Wanneer ingesteld op true, kan het model code uitvoeren in een geïsoleerde omgeving (sandbox).

Voorbeeld:

modelSpecs:
  list:
    - name: 'code-assistant'
      label: 'Code Assistant'
      executeCode: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

mcpServers

Beschrijving:
Lijst met namen van Model Context Protocol (MCP) servers die voor deze Model Specs moeten worden ingeschakeld. MCP-servers breiden de mogelijkheden van het model uit met aangepaste tools en resources.

Voorbeeld:

modelSpecs:
  list:
    - name: 'enhanced-assistant'
      label: 'Enhanced Assistant'
      mcpServers:
        - 'filesystem'
        - 'sequential-thinking'
        - 'fetch'
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

skills

Beschrijving:

Beheert Skills voor deze Model Specs wanneer de Skills-functionaliteit van het Agents endpoint beschikbaar is.

• true: schakelt de actieve toegankelijke Skill-catalogus van de gebruiker in.
• false: schakelt Skills uit voor deze spec.
• Array van Skill-namen: beperkt de catalogus, handmatige aanroepen en 'always-apply'-resolutie tot de genoemde Skills.

Voorbeeld:

modelSpecs:
  list:
    - name: 'brand-assistant'
      label: 'Brand Assistant'
      skills:
        - 'brand-guidelines'
        - 'approved-claims'
      preset:
        endpoint: 'agents'
        model: 'gpt-4o'

subagents

Beschrijving:

Beheert Subagents voor kortstondige agents die zijn aangemaakt vanuit deze Model Specs. Gebruik dit wanneer je wilt dat een samengestelde Model Spec delegatiegedrag blootstelt zonder dat gebruikers een blijvende bovenliggende agent hoeven aan te maken of te selecteren.

• enabled: voegt de subagent spawn tool toe voor deze Model Specs.
• allowSelf: staat de kortstondige agent toe om een nieuwe, geïsoleerde kopie van zichzelf aan te maken.
• agent_ids: staat specifieke persistente agents toe als aanvullende subagents. Deze lijst is beperkt door MAX_SUBAGENTS en blijft aan de serverzijde; de opstartconfiguratie die naar clients wordt verzonden, bevat alleen de publieke enabled en allowSelf vlaggen.

Wanneer Model Specs worden afgedwongen, zijn de subagents instellingen van de Model Spec leidend boven de waarden in de request payload.

Voorbeeld:

modelSpecs:
  list:
    - name: 'research-assistant'
      label: 'Research Assistant'
      subagents:
        enabled: true
        allowSelf: true
        agent_ids: []
      preset:
        endpoint: 'agents'
        model: 'gpt-4o'

artifacts

Beschrijving:
Schakelt de Artifacts-functionaliteit in voor deze Model Specs, waardoor het model interactieve artifacts zoals React-componenten, HTML en Mermaid-diagrammen kan genereren en weergeven. Wanneer ingesteld op true, wordt de standaard artifact-modus gebruikt. Je kunt ook direct een modus-string opgeven.

Voorbeeld:

modelSpecs:
  list:
    - name: 'artifact-assistant'
      label: 'Artifact Assistant'
      artifacts: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

preset

Beschrijving:
Gedetailleerde preset-configuraties die het gedrag en de mogelijkheden van het model definiëren (zie Preset Object Structure hieronder).

Preset-velden

Het preset veld voor een modelSpecs.list item bestaat uit een uitgebreid configuratieontwerp voor AI-modellen binnen het systeem. Het is ontworpen om de operationele instellingen van AI-modellen te specificeren, waarbij hun gedrag, output en interacties met andere systeemcomponenten en endpoint worden afgestemd.

Systeemopties

endpoint

Vereist

Geaccepteerde waarden:

• openAI
• azureOpenAI
• google
• anthropic
• assistants
• azureAssistants
• bedrock
• agents

Let op: Als u een custom endpoint gebruikt, moet de endpoint waarde exact overeenkomen met de gedefinieerde custom endpoint name.

Voorbeeld:

preset:
  endpoint: 'openAI'

modelLabel

Standaard: None

Voorbeeld:

preset:
  modelLabel: 'Customer Support Bot'

greeting

Standaard: None

Voorbeeld:

preset:
  greeting: 'This assistant creates meeting notes based on transcripts of Teams recordings. To start, simply paste the transcript into the chat box.'

promptPrefix

Standaard: None

Voorbeeld 1:

preset:
  promptPrefix: 'As a financial advisor, ...'

Voorbeeld 2:

preset:
  promptPrefix: |
    Based on the transcript, create coherent meeting minutes for a business meeting. Include the following sections:
    - Date and Attendees
    - Agenda
    - Minutes
    - Action Items

    Focus on what items were discussed and/or resolved. List any open action items.
    The format should be a bulleted list of high level topics in chronological order, and then one or more concise sentences explaining the details.
    Each high level topic should have at least two sub topics listed, but add as many as necessary to support the high level topic. 

    - Do not start items with the same opening words.

    Take a deep breath and be sure to think step by step.

resendFiles

Standaard: true

Voorbeeld:

preset:
  resendFiles: true

imageDetail

Geaccepteerde waarden:

• laag
• auto
• hoog

Standaard: "auto"

Voorbeeld:

preset:
  imageDetail: 'high'

maxContextTokens

Voorbeeld:

preset:
  maxContextTokens: 4096

Agent-opties

Let op: deze opties zijn alleen van toepassing bij gebruik van het agents endpoint.

Je dient alle modelopties uit te sluiten en te vertrouwen op de configuratie van de agent zoals gedefinieerd in de UI.

agent_id

Voorbeeld:

preset:
  agent_id: 'agent_someUniqueId'

Assistent-opties

Let op: deze opties zijn alleen van toepassing bij gebruik van de assistants of azureAssistants endpoint.

Net als bij Agents, moet je alle modelopties uitsluiten en vertrouwen op de configuratie van de assistant.

assistant_id

Voorbeeld:

preset:
  assistant_id: 'asst_someUniqueId'

instructions

Let op: dit is anders dan promptPrefix, aangezien dit de bestaande assistent-instructies voor huidige runs overschrijft.

Gebruik dit alleen als je de kerninstructies van de assistent wilt overschrijven.

Gebruik promptPrefix voor additional_instructions.

Meer informatie:

• https://platform.openai.com/docs/api-reference/models#runs-createrun-instructions
• https://platform.openai.com/docs/api-reference/runs/createRun#runs-createrun-additional_instructions

Voorbeeld:

preset:
  instructions: 'Please handle customer queries regarding order status.'

append_current_datetime

Voegt de huidige datum en tijd toe aan additional_instructions voor elke run. Overschrijft promptPrefix niet, maar voegt er iets aan toe.

Voorbeeld:

preset:
  append_current_datetime: true

Modelopties

Let op: Elke parameter hieronder bevat een opmerking over welke endpoint deze ondersteunt. OpenAI / AzureOpenAI / Custom ondersteunen doorgaans temperature, presence_penalty, frequency_penalty, stop, top_p, max_tokens. Google / Anthropic ondersteunen doorgaans topP, topK, maxOutputTokens; Google ondersteunt ook url_context op ondersteunde Gemini-tekstmodellen. Anthropic / OpenRouter / Bedrock (Anthropic- en Nova-modellen) ondersteunen promptCache en promptCacheTtl. Bedrock ondersteunt region, maxTokens en enkele andere.

model

Ondersteund door: Alle endpoints (behalve agents)

Standaard: None

Voorbeeld:

preset:
  model: 'gpt-4-turbo'

temperature

Ondersteund door: openAI, azureOpenAI, google (als temperature), anthropic (als temperature), en custom (OpenAI-achtig)

Voorbeeld:

preset:
  temperature: 0.7

presence_penalty

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig)
Doorgaans niet gebruikt door Google/Anthropic/Bedrock

Voorbeeld:

preset:
  presence_penalty: 0.3

frequency_penalty

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig)
Doorgaans niet gebruikt door Google/Anthropic/Bedrock

Voorbeeld:

preset:
  frequency_penalty: 0.5

stop

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig)
Doorgaans niet gebruikt door Google/Anthropic/Bedrock

Voorbeeld:

preset:
  stop:
    - 'END'
    - 'STOP'

top_p

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig)
Google/Anthropic gebruiken vaak topP (hoofdletter “P”) in plaats van top_p.

Voorbeeld:

preset:
  top_p: 0.9

topP

Ondersteund door: google & anthropic
(vergelijkbaar doel als top_p, maar anders benoemd in die API's)

Voorbeeld:

preset:
  topP: 0.8

topK

Ondersteund door: google & anthropic
(k-sampling limiet op de distributie van het volgende token)

Voorbeeld:

preset:
  topK: 40

max_tokens

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig)
Gebruik voor Google/Anthropic maxOutputTokens of maxTokens (afhankelijk van de endpoint).

Voorbeeld:

preset:
  max_tokens: 4096

maxOutputTokens

Ondersteund door: google, anthropic
Equivalent aan max_tokens voor deze providers.

Voorbeeld:

preset:
  maxOutputTokens: 2048

promptCache

Ondersteund door: anthropic, OpenRouter custom endpoints, bedrock (Anthropic en Nova modellen) (Schakel provider prompt caching in/uit)

Standaard: true

Voorbeeld:

preset:
  promptCache: true

Let op: Voor Bedrock endpoints is prompt caching automatisch ingeschakeld voor Claude en Nova modellen. Stel promptCache: false in om dit expliciet uit te schakelen.

promptCacheTtl

Ondersteund door: anthropic, OpenRouter custom endpoints, bedrock (Anthropic en Nova modellen) (Stelt de levensduur van de prompt-cache in wanneer prompt caching is ingeschakeld)

Geaccepteerde waarden:

• 5m
• 1h

Voorbeeld:

preset:
  promptCache: true
  promptCacheTtl: '1h'

Let op: promptCacheTtl wordt genegeerd wanneer prompt caching is uitgeschakeld. Wanneer dit wordt weggelaten, gebruikt de provider-integratie de standaard levensduur voor prompt-cache.

reasoning_effort

Geaccepteerde waarden:

• "" (lege string — niet ingesteld, gebruikt de API-standaard)
• "none"
• "minimal"
• "low"
• "medium"
• "high"
• "xhigh" (extra hoog)

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig), bedrock (ZAI, MoonshotAI-modellen)

Standaard: "" (niet ingesteld)

Voorbeeld:

preset:
  reasoning_effort: 'low'

reasoning_summary

Geaccepteerde waarden:

• "" (lege string — schakelt redeneersamenvattingen uit)
• "auto"
• "concise"
• "detailed"

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig)

Standaard: "" (uitgeschakeld)

Voorbeeld:

preset:
  reasoning_summary: 'detailed'

useResponsesApi

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig)

Standaard: false

Voorbeeld:

preset:
  useResponsesApi: true

verbosity

Geaccepteerde waarden:

• "" (lege string — niet ingesteld, gebruikt de API-standaard)
• "low"
• "medium"
• "high"

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig)

Standaard: "" (niet ingesteld)

Voorbeeld:

preset:
  verbosity: 'low'

web_search

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig), google, anthropic

Standaard: false

Let op: Voor Google endpoints verschijnt deze parameter als Grounding with Google Search in het daadwerkelijke paneel, maar bestuurt deze web_search in de implementatie.

Voorbeeld:

preset:
  web_search: true

url_context

Ondersteund door: google op ondersteunde Gemini-tekstmodellen, inclusief Gemini 2.5+ en Gemini 3.x

Standaard: false

Voorbeeld:

preset:
  url_context: true

disableStreaming

Ondersteund door: openAI, azureOpenAI, custom (OpenAI-achtig)

Standaard: false

Voorbeeld:

preset:
  disableStreaming: true

thinkingBudget

Ondersteund door: google, anthropic, bedrock (Anthropic-modellen)

Standaard: "Auto (-1)" (Google), 2000 (Anthropic, Bedrock (Anthropic-modellen))

Voorbeeld:

preset:
  thinkingBudget: '2000'

thinkingLevel

Ondersteund door: google (Gemini 3+ modellen)

Geaccepteerde waarden:

• "" (niet ingesteld/auto)
• "minimal"
• "low"
• "medium"
• "high"

Standaard: "" (niet ingesteld — model beslist)

Voorbeeld:

preset:
  thinkingLevel: 'medium'

effort

Ondersteund door: anthropic, bedrock (Anthropic-modellen)

Opties: "" (niet ingesteld/auto), "low", "medium", "high", "xhigh", "max"

Standaard: "" (niet ingesteld — model beslist)

Voorbeeld:

preset:
  effort: 'high'

thinkingDisplay

Ondersteund door: anthropic, bedrock (Anthropic-modellen)

Opties: "auto" (standaard), "summarized", "omitted"

• "auto" — LibreChat beslist: kiest voor "summarized" voor modellen die standaard geen 'thinking' bevatten (Opus 4.7+ en Fable/Mythos-klasse), en laat het veld weg voor oudere modellen
• "summarized" — vraag altijd om een post-hoc samenvatting van de redenering
• "omitted" — onderdruk altijd de redeneerinhoud (iets lagere latentie)

Standaard: "auto"

Voorbeeld:

preset:
  thinkingDisplay: 'summarized'

thinking

Ondersteund door: google, anthropic, bedrock (Anthropic-modellen)

Standaard: true

Voorbeeld:

preset:
  thinking: true

region

Ondersteund door: bedrock
(Wordt gebruikt om een AWS-regio op te geven voor Amazon Bedrock)

Voorbeeld:

preset:
  region: 'us-east-1'

maxTokens

Ondersteund door: bedrock
(Wordt gebruikt in plaats van max_tokens)

Voorbeeld:

preset:
  maxTokens: 1024