Struktur des Model Specs Objekts

Übersicht

Das modelSpecs Objekt hilft Ihnen dabei, eine einfachere Benutzeroberfläche für KI-Modelle innerhalb Ihrer Anwendung bereitzustellen.

Es gibt 3 Hauptfelder unter modelSpecs:

• enforce (optional; Standard: false)
• prioritize (optional; Standardwert: true)
• list (erforderlich)
• addedEndpoints (optional)

Hinweise:

• Wenn enforce auf true gesetzt ist, können Model Specs potenziell mit anderen Schnittstelleneinstellungen wie modelSelect, presets und parameters in Konflikt geraten.
• Das list-Array enthält detaillierte Konfigurationen für jedes Modell, einschließlich Voreinstellungen, die spezifische Verhaltensweisen, Erscheinungsbilder und Fähigkeiten festlegen.
• Wenn interface Felder in der Konfiguration nicht angegeben sind, führt das Vorhandensein einer Liste von Model Specs zur Deaktivierung der folgenden Interface-Elemente:
  • modelSelect
  • parameters
  • presets
• Wenn Sie diese Schnittstellenelemente zusammen mit Model Specs aktivieren möchten, können Sie diese im interface-Objekt auf true setzen.

Beispiel

modelSpecs:
  enforce: true
  prioritize: true
  list:
    - name: 'meeting-notes-gpt4'
      label: 'Meeting Notes Assistant (GPT4)'
      softDefault: true
      description: 'Generate meeting notes by simply pasting in the transcript from a Teams recording.'
      iconURL: 'https://example.com/icon.png'
      showOnLanding: true
      conversation_starters:
        - 'Summarize this meeting transcript'
        - 'Extract action items and owners'
      hideBadgeRow: true
      skills:
        - 'brand-guidelines'
        - 'meeting-notes'
      subagents:
        enabled: true
        allowSelf: true
        agent_ids: []
      preset:
        endpoint: 'azureOpenAI'
        model: 'gpt-4-turbo-1106-preview'
        maxContextTokens: 128000 # Maximum context tokens
        max_tokens: 4096 # Maximum output tokens
        temperature: 0.2
        modelLabel: 'Meeting Summarizer'
        greeting: |
          This assistant creates meeting notes based on transcripts of Teams recordings.
          To start, simply paste the transcript into the chat box.
        promptPrefix: |
          Based on the transcript, create coherent meeting minutes for a business meeting. Include the following sections:
          - Date and Attendees
          - Agenda
          - Minutes
          - Action Items

          Focus on what items were discussed and/or resolved. List any open action items.
          The format should be a bulleted list of high level topics in chronological order, and then one or more concise sentences explaining the details.
          Each high level topic should have at least two sub topics listed, but add as many as necessary to support the high level topic. 

          - Do not start items with the same opening words.

          Take a deep breath and be sure to think step by step.

Top-level Felder

enforce

Standard: false

Beispiel:

modelSpecs:
  enforce: true

prioritize

Standard: true

Beispiel:

modelSpecs:
  prioritize: false

addedEndpoints

Standard: [] (leere Liste)

Hinweis: Muss einer der folgenden Werte sein:

• openAI, azureOpenAI, google, anthropic, assistants, azureAssistants, bedrock, agents

Beispiel:

modelSpecs:
  # ... other modelSpecs fields
  addedEndpoints:
    - openAI
    - google

list

Erforderlich

Model Spec (Listenelement)

Innerhalb jedes Model Spec oder jedes list-Elements können Sie die folgenden Felder konfigurieren:

name

Beschreibung: Eindeutiger Bezeichner für das Modell.

label

Beschreibung: Ein benutzerfreundlicher Name oder eine Bezeichnung für das Modell, die im Dropdown-Menü der Kopfzeile angezeigt wird.

default

Beschreibung:
Legt fest, ob diese Model Specs die Standardauswahl sind, die bei jedem neuen Chat automatisch ausgewählt wird.

softDefault

Beschreibung:

Legt einen Standardwert für den ersten Start fest, ohne spätere Benutzerauswahlen zu überschreiben. Verwenden Sie softDefault, wenn Sie neue Benutzer zu einer kuratierten Spec führen möchten, während die Wahlfreiheit des Benutzers gewahrt bleibt, nachdem er ein anderes Modell, eine andere Spec oder einen anderen Agenten ausgewählt hat.

Das Anzeigen einer älteren Konversation, die eine Soft-Default-Spec verwendet hat, aktiviert diese Spec nicht erneut als Standard für den Benutzer, nachdem dieser eine andere Auswahl getroffen hat.

Beispiel:

modelSpecs:
  list:
    - name: 'general-assistant'
      label: 'General Assistant'
      softDefault: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o-mini'

iconURL

Beschreibung:
URL oder ein vordefinierter endpoint-Name für das Symbol des Modells im Auswahlmenü, im Header und im Branding der Konversation. Verwenden Sie showIconInMenu und showIconInHeader, um zu steuern, wo das Symbol angezeigt wird.

description

Beschreibung: Eine kurze Beschreibung des Modells und seines beabsichtigten Verwendungszwecks oder seiner Rolle, die in der Modellauswahl angezeigt wird. Wenn showOnLanding auf true gesetzt ist, wird dieselbe Beschreibung auch auf der Chat-Startseite unter dem Spec-Label angezeigt.

Beschreibungen im Klartext werden als Text gerendert. Beschreibungen, die mit < beginnen, werden durch den Konfigurations-HTML-Sanitizer gerendert, was sicheres Inline-Markup und Medien wie kleine Symbole ermöglicht.

conversation_starters

Beschreibung: Conversation starters bieten Benutzern kuratierte erste Prompts für ein Model Spec. Sie werden auf der leeren Chat-Startseite für das ausgewählte Spec angezeigt und sind besonders nützlich mit dem showOnLanding-Branding. Ein Klick auf einen Starter sendet diesen als erste Nachricht einer neuen Konversation ab.

• Es werden maximal 4 Starter angezeigt, was dem Limit für Agenten/Assistenten entspricht.
• Wenn das Preset der Spezifikation auf einen Agenten oder Assistenten verweist, der seine eigenen Konversationsstarter definiert, haben diese Vorrang.

Beispiel:

modelSpecs:
  list:
    - name: 'meeting-notes'
      label: 'Meeting Notes'
      showOnLanding: true
      conversation_starters:
        - 'Summarize this meeting transcript'
        - 'Create action items with owners and due dates'
      preset:
        endpoint: 'agents'
        model: 'gpt-4o'

showOnLanding

Standard: false

Verwenden Sie dies, wenn eine kuratierte Model Specs den ersten leeren Chat-Bildschirm branden soll. Bestehende Model Specs bleiben unverändert, es sei denn, showOnLanding ist auf true gesetzt.

Beispiel:

modelSpecs:
  list:
    - name: 'branded-assistant'
      label: 'Acme Research'
      description: '<span><img src="/assets/acme.svg" alt="Acme" /> Research with approved sources</span>'
      showOnLanding: true
      iconURL: '/assets/acme.svg'
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

group

Beschreibung: Optionaler Gruppenname zur Organisation von Model Specs im UI-Auswahlmenü. Das Feld group bietet flexible Kontrolle darüber, wie Model Specs organisiert werden:

• Wenn group mit einem endpoint-Namen übereinstimmt (z. B. "openAI", "groq"): Das Model Spec erscheint im Auswahlmenü unter diesem endpoint verschachtelt.
• Wenn group ein benutzerdefinierter Name ist (der mit keinem endpoint übereinstimmt): Erstellt einen separaten, einklappbaren Abschnitt mit diesem Namen. Sie können optional groupIcon verwenden, um ein benutzerdefiniertes Symbol für diesen Abschnitt festzulegen (URL oder integrierter Schlüssel wie "openAI").
• Falls group weggelassen wird: Das Model Spec erscheint als eigenständiges Element auf der obersten Ebene

Diese Funktion ist besonders nützlich, wenn Sie Modellen Beschreibungen hinzufügen möchten, ohne die Organisationsstruktur des Auswahlmenüs zu verlieren.

hideBadgeRow

Standard: false

Verwenden Sie dies, wenn eine kuratierte Model Specs nicht die Reihe der Tool-/Fähigkeits-Badges unterhalb des Composers anzeigen soll.

Beispiel:

modelSpecs:
  list:
    - name: 'general-assistant'
      label: 'General Assistant'
      hideBadgeRow: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o-mini'

Beispiel:

modelSpecs:
  list:
    # Example 1: Nested under an endpoint
    # When group matches an endpoint name, the spec appears under that endpoint
    - name: 'gpt-4o-optimized'
      label: 'GPT-4 Optimized'
      description: 'Most capable GPT-4 model with multimodal support'
      group: 'openAI' # Appears nested under the OpenAI endpoint
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

    # Example 2: Custom group section with icon
    # When group is a custom name, it creates a separate collapsible section
    - name: 'coding-assistant'
      label: 'Coding Assistant'
      description: 'Specialized for coding tasks'
      group: 'My Assistants'
      groupIcon: 'https://example.com/icons/assistants.png' # Custom icon for the group
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

    # Multiple specs with the same group name are grouped together
    - name: 'writing-assistant'
      label: 'Writing Assistant'
      description: 'Specialized for creative writing'
      group: 'My Assistants' # Grouped with coding-assistant, uses its icon
      preset:
        endpoint: 'anthropic'
        model: 'claude-sonnet-4'

    # Example 3: Custom group using built-in icon
    - name: 'fast-model'
      label: 'Fast Model'
      group: 'Fast Models'
      groupIcon: 'groq' # Uses built-in Groq icon
      preset:
        endpoint: 'groq'
        model: 'llama3-8b-8192'

    # Example 4: Standalone (no group)
    # When group is omitted, the spec appears at the top level
    - name: 'general-assistant'
      label: 'General Assistant'
      description: 'General purpose assistant'
      # No group field - appears as standalone item at top level
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o-mini'

showIconInMenu

Beschreibung:
Steuert, ob das Symbol des Modells im Dropdown-Menü der Kopfzeile angezeigt wird. Standardmäßig auf true gesetzt.

showIconInHeader

Beschreibung:
Steuert, ob das Symbol des Modells in der Header-Dropdown-Schaltfläche links neben seinem Namen angezeigt wird. Standardmäßig auf true gesetzt.

authType

Beschreibung:
Authentifizierungstyp, der für die Model Specs erforderlich ist. Bestimmt, ob die Authentifizierung überschrieben, vom Benutzer bereitgestellt oder vom System definiert wird.

webSearch

Beschreibung:
Aktiviert die Websuchfunktion für diese Model Specs. Wenn dies auf true gesetzt ist, kann das Modell Websuchen durchführen, um aktuelle Informationen abzurufen.

Beispiel:

modelSpecs:
  list:
    - name: 'research-assistant'
      label: 'Research Assistant'
      webSearch: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

fileSearch

Beschreibung:
Aktiviert die Dateisuchfunktion für diese Model Specs. Wenn auf true gesetzt, kann das Modell hochgeladene Dateien durchsuchen und darauf verweisen.

Beispiel:

modelSpecs:
  list:
    - name: 'document-analyst'
      label: 'Document Analyst'
      fileSearch: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

executeCode

Beschreibung:
Aktiviert die Codeausführungsfunktion für diese Model Specs. Wenn dies auf true gesetzt ist, kann das Modell Code in einer isolierten Umgebung (Sandbox) ausführen.

Beispiel:

modelSpecs:
  list:
    - name: 'code-assistant'
      label: 'Code Assistant'
      executeCode: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

mcpServers

Beschreibung:
Liste der Namen von Model Context Protocol (MCP) Servern, die für diese Model Specs aktiviert werden sollen. MCP-Server erweitern die Fähigkeiten des Modells um benutzerdefinierte Tools und Ressourcen.

Beispiel:

modelSpecs:
  list:
    - name: 'enhanced-assistant'
      label: 'Enhanced Assistant'
      mcpServers:
        - 'filesystem'
        - 'sequential-thinking'
        - 'fetch'
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

skills

Beschreibung:

Steuert Skills für diese Model Specs, wenn die Skills-Funktion des Agents endpoint verfügbar ist.

• true: aktiviert den aktiven zugänglichen Skill-Katalog des Benutzers.
• false: deaktiviert Skills für diese Spec.
• Array der Skill-Namen: schränkt den Katalog, den manuellen Aufruf und die „always-apply“-Auflösung auf die benannten Skills ein.

Beispiel:

modelSpecs:
  list:
    - name: 'brand-assistant'
      label: 'Brand Assistant'
      skills:
        - 'brand-guidelines'
        - 'approved-claims'
      preset:
        endpoint: 'agents'
        model: 'gpt-4o'

subagents

Beschreibung:

Steuert Subagents für ephemere Agents, die aus dieser Model Spec erstellt wurden. Verwenden Sie dies, wenn eine kuratierte Model Spec das Delegationsverhalten bereitstellen soll, ohne dass Benutzer einen persistenten übergeordneten Agenten erstellen oder auswählen müssen.

• enabled: fügt das Subagent-Spawn-Tool für diese Model Specs hinzu.
• allowSelf: erlaubt es dem ephemeren Agenten, eine neue, isolierte Kopie seiner selbst zu erstellen.
• agent_ids: ermöglicht spezifische persistente Agents als zusätzliche Subagents. Diese Liste ist durch MAX_SUBAGENTS begrenzt und bleibt serverseitig; die beim Start an Clients gesendete Konfiguration enthält nur die öffentlichen enabled- und allowSelf-Flags.

Wenn Model Specs erzwungen werden, haben die subagents-Einstellungen der Model Specs Vorrang vor den Werten der Request-Payload.

Beispiel:

modelSpecs:
  list:
    - name: 'research-assistant'
      label: 'Research Assistant'
      subagents:
        enabled: true
        allowSelf: true
        agent_ids: []
      preset:
        endpoint: 'agents'
        model: 'gpt-4o'

artifacts

Beschreibung:
Aktiviert die Artifacts-Funktion für diese Model Specs, wodurch das Modell interaktive Artefakte wie React-Komponenten, HTML und Mermaid-Diagramme generieren und anzeigen kann. Wenn der Wert auf true gesetzt ist, wird der Standard-Artefaktmodus verwendet. Sie können auch direkt einen Modus-String angeben.

Beispiel:

modelSpecs:
  list:
    - name: 'artifact-assistant'
      label: 'Artifact Assistant'
      artifacts: true
      preset:
        endpoint: 'openAI'
        model: 'gpt-4o'

preset

Beschreibung:
Detaillierte Preset-Konfigurationen, die das Verhalten und die Fähigkeiten des Modells definieren (siehe Preset-Objektstruktur unten).

Preset-Felder

Das preset-Feld für ein modelSpecs.list-Element besteht aus einem umfassenden Konfigurationsentwurf für KI-Modelle innerhalb des Systems. Es wurde entwickelt, um die Betriebseinstellungen von KI-Modellen festzulegen und deren Verhalten, Ausgaben sowie Interaktionen mit anderen Systemkomponenten und endpoint-Instanzen anzupassen.

Systemoptionen

endpoint

Erforderlich

Akzeptierte Werte:

• openAI
• azureOpenAI
• google
• anthropic
• assistants
• azureAssistants
• bedrock
• agents

Hinweis: Wenn Sie einen benutzerdefinierten endpoint verwenden, muss der endpoint-Wert exakt mit dem definierten Namen des benutzerdefinierten endpoints übereinstimmen.

Beispiel:

preset:
  endpoint: 'openAI'

modelLabel

Standard: None

Beispiel:

preset:
  modelLabel: 'Customer Support Bot'

greeting

Standard: None

Beispiel:

preset:
  greeting: 'This assistant creates meeting notes based on transcripts of Teams recordings. To start, simply paste the transcript into the chat box.'

promptPrefix

Standard: None

Beispiel 1:

preset:
  promptPrefix: 'As a financial advisor, ...'

Beispiel 2:

preset:
  promptPrefix: |
    Based on the transcript, create coherent meeting minutes for a business meeting. Include the following sections:
    - Date and Attendees
    - Agenda
    - Minutes
    - Action Items

    Focus on what items were discussed and/or resolved. List any open action items.
    The format should be a bulleted list of high level topics in chronological order, and then one or more concise sentences explaining the details.
    Each high level topic should have at least two sub topics listed, but add as many as necessary to support the high level topic. 

    - Do not start items with the same opening words.

    Take a deep breath and be sure to think step by step.

resendFiles

Standard: true

Beispiel:

preset:
  resendFiles: true

imageDetail

Akzeptierte Werte:

• niedrig
• auto
• hoch

Standard: "auto"

Beispiel:

preset:
  imageDetail: 'high'

maxContextTokens

Beispiel:

preset:
  maxContextTokens: 4096

Agent-Optionen

Beachten Sie, dass diese Optionen nur bei Verwendung des agents endpoint gelten.

Sie sollten alle Modelloptionen ausschließen und sich auf die Konfiguration des Agenten verlassen, wie sie in der Benutzeroberfläche definiert ist.

agent_id

Beispiel:

preset:
  agent_id: 'agent_someUniqueId'

Assistant-Optionen

Beachte, dass diese Optionen nur bei Verwendung des assistants oder azureAssistants endpoint anwendbar sind.

Ähnlich wie bei Agents sollten Sie alle Modelloptionen ausschließen und sich auf die Konfiguration des Assistenten verlassen.

assistant_id

Beispiel:

preset:
  assistant_id: 'asst_someUniqueId'

instructions

Hinweis: Dies unterscheidet sich von promptPrefix, da dies die bestehenden Anweisungen des Assistenten für aktuelle Durchläufe überschreibt.

Verwenden Sie dies nur, wenn Sie die Kernanweisungen des Assistenten überschreiben möchten.

Verwenden Sie promptPrefix für additional_instructions.

Weitere Informationen:

• https://platform.openai.com/docs/api-reference/models#runs-createrun-instructions
• https://platform.openai.com/docs/api-reference/runs/createRun#runs-createrun-additional_instructions

Beispiel:

preset:
  instructions: 'Please handle customer queries regarding order status.'

append_current_datetime

Fügt das aktuelle Datum und die Uhrzeit zu additional_instructions für jeden Durchlauf hinzu. Überschreibt promptPrefix nicht, sondern ergänzt es.

Beispiel:

preset:
  append_current_datetime: true

Modelloptionen

Hinweis: Jeder der unten aufgeführten Parameter enthält einen Hinweis darauf, welche Endpoints ihn unterstützen.
OpenAI / AzureOpenAI / Custom unterstützen in der Regel temperature, presence_penalty, frequency_penalty, stop, top_p, max_tokens.
Google / Anthropic unterstützen in der Regel topP, topK, maxOutputTokens; Google unterstützt zudem url_context bei unterstützten Gemini-Textmodellen. Anthropic / OpenRouter / Bedrock (Anthropic- und Nova-Modelle) unterstützen promptCache und promptCacheTtl. Bedrock unterstützt region, maxTokens und einige weitere.

model

Unterstützt von: Allen endpoints (außer agents)

Standard: None

Beispiel:

preset:
  model: 'gpt-4-turbo'

temperature

Unterstützt von: openAI, azureOpenAI, google (als temperature), anthropic (als temperature) und benutzerdefiniert (OpenAI-ähnlich)

Beispiel:

preset:
  temperature: 0.7

presence_penalty

Unterstützt von: openAI, azureOpenAI, custom (OpenAI-ähnlich)
Wird normalerweise nicht von Google/Anthropic/Bedrock verwendet

Beispiel:

preset:
  presence_penalty: 0.3

frequency_penalty

Unterstützt von: openAI, azureOpenAI, custom (OpenAI-ähnlich)
Wird normalerweise nicht von Google/Anthropic/Bedrock verwendet

Beispiel:

preset:
  frequency_penalty: 0.5

stop

Unterstützt von: openAI, azureOpenAI, custom (OpenAI-ähnlich)
Wird normalerweise nicht von Google/Anthropic/Bedrock verwendet

Beispiel:

preset:
  stop:
    - 'END'
    - 'STOP'

top_p

Unterstützt durch: openAI, azureOpenAI, custom (OpenAI-ähnlich)
Google/Anthropic verwenden oft topP (großes „P“) anstelle von top_p.

Beispiel:

preset:
  top_p: 0.9

topP

Unterstützt von: google & anthropic
(ähnlicher Zweck wie top_p, aber in diesen APIs anders benannt)

Beispiel:

preset:
  topP: 0.8

topK

Unterstützt durch: google & anthropic
(k-Sampling-Limit für die Verteilung des nächsten Tokens)

Beispiel:

preset:
  topK: 40

max_tokens

Unterstützt von: openAI, azureOpenAI, custom (OpenAI-ähnlich)
Verwenden Sie für Google/Anthropic maxOutputTokens oder maxTokens (abhängig vom endpoint).

Beispiel:

preset:
  max_tokens: 4096

maxOutputTokens

Unterstützt von: google, anthropic
Entspricht max_tokens für diese Anbieter.

Beispiel:

preset:
  maxOutputTokens: 2048

promptCache

Unterstützt durch: anthropic, OpenRouter benutzerdefinierte endpoints, bedrock (Anthropic und Nova Modelle) (Provider-Prompt-Caching umschalten)

Standard: true

Beispiel:

preset:
  promptCache: true

Hinweis: Für Bedrock-endpoints ist das Prompt-Caching für Claude- und Nova-Modelle automatisch aktiviert. Setzen Sie promptCache: false, um es explizit zu deaktivieren.

promptCacheTtl

Unterstützt durch: anthropic, OpenRouter-benutzerdefinierte Endpunkte, bedrock (Anthropic- und Nova-Modelle) (Legt die Lebensdauer des Prompt-Caches fest, wenn Prompt-Caching aktiviert ist)

Akzeptierte Werte:

• 5m
• 1h

Beispiel:

preset:
  promptCache: true
  promptCacheTtl: '1h'

Hinweis: promptCacheTtl wird ignoriert, wenn das Prompt-Caching deaktiviert ist. Wenn dieser Wert weggelassen wird, verwendet die Provider-Integration ihre standardmäßige Prompt-Cache-Lebensdauer.

reasoning_effort

Akzeptierte Werte:

• "" (leerer String — nicht gesetzt, verwendet den API-Standard)
• "none"
• "minimal"
• "low"
• "medium"
• "high"
• "xhigh" (extra hoch)

Unterstützt durch: openAI, azureOpenAI, custom (OpenAI-ähnlich), bedrock (ZAI, MoonshotAI-Modelle)

Standard: "" (nicht festgelegt)

Beispiel:

preset:
  reasoning_effort: 'low'

reasoning_summary

Akzeptierte Werte:

• "" (leerer String — deaktiviert Zusammenfassungen des Denkprozesses)
• "auto"
• "concise"
• "detailed"

Unterstützt durch: openAI, azureOpenAI, benutzerdefiniert (OpenAI-ähnlich)

Standard: "" (deaktiviert)

Beispiel:

preset:
  reasoning_summary: 'detailed'

useResponsesApi

Unterstützt durch: openAI, azureOpenAI, benutzerdefiniert (OpenAI-ähnlich)

Standard: false

Beispiel:

preset:
  useResponsesApi: true

verbosity

Akzeptierte Werte:

• "" (leerer String — nicht gesetzt, verwendet den API-Standard)
• "low"
• "medium"
• "high"

Unterstützt durch: openAI, azureOpenAI, benutzerdefiniert (OpenAI-ähnlich)

Standard: "" (nicht festgelegt)

Beispiel:

preset:
  verbosity: 'low'

web_search

Unterstützt durch: openAI, azureOpenAI, custom (OpenAI-like), google, anthropic

Standard: false

Hinweis: Für Google-endpoints erscheint dieser Parameter im eigentlichen Panel als Grounding with Google Search, steuert jedoch web_search in der Implementierung.

Beispiel:

preset:
  web_search: true

url_context

Unterstützt durch: google auf unterstützten Gemini-Textmodellen, einschließlich Gemini 2.5+ und Gemini 3.x

Standard: false

Beispiel:

preset:
  url_context: true

disableStreaming

Unterstützt durch: openAI, azureOpenAI, benutzerdefiniert (OpenAI-ähnlich)

Standard: false

Beispiel:

preset:
  disableStreaming: true

thinkingBudget

Unterstützt von: google, anthropic, bedrock (Anthropic-Modelle)

Standard: "Auto (-1)" (Google), 2000 (Anthropic, Bedrock (Anthropic-Modelle))

Beispiel:

preset:
  thinkingBudget: '2000'

thinkingLevel

Unterstützt von: google (Gemini 3+ Modelle)

Akzeptierte Werte:

• "" (nicht festgelegt/auto)
• "minimal"
• "low"
• "medium"
• "high"

Standard: "" (nicht festgelegt — das Modell entscheidet)

Beispiel:

preset:
  thinkingLevel: 'medium'

effort

Unterstützt von: anthropic, bedrock (Anthropic-Modelle)

Optionen: "" (nicht gesetzt/auto), "low", "medium", "high", "xhigh", "max"

Standard: "" (nicht festgelegt — das Modell entscheidet)

Beispiel:

preset:
  effort: 'high'

thinkingDisplay

Unterstützt von: anthropic, bedrock (Anthropic-Modelle)

Optionen: "auto" (Standard), "summarized", "omitted"

• "auto" — LibreChat entscheidet: wählt "summarized" für Modelle, die standardmäßig kein Thinking verwenden (Opus 4.7+ und Fable/Mythos-Klasse), und lässt das Feld für ältere Modelle weg
• "summarized" — fordert immer eine nachträgliche Zusammenfassung der Überlegungen an
• "omitted" — unterdrückt immer den Reasoning-Inhalt (etwas geringere Latenz)

Standard: "auto"

Beispiel:

preset:
  thinkingDisplay: 'summarized'

thinking

Unterstützt von: google, anthropic, bedrock (Anthropic-Modelle)

Standard: true

Beispiel:

preset:
  thinking: true

region

Unterstützt von: bedrock
(Wird verwendet, um eine AWS-Region für Amazon Bedrock anzugeben)

Beispiel:

preset:
  region: 'us-east-1'

maxTokens

Unterstützt von: bedrock
(Wird anstelle von max_tokens verwendet)

Beispiel:

preset:
  maxTokens: 1024