要約設定

概要

summarization 設定は、会話の要約とコンテキストの剪定（pruning）を一元管理します。これは、以前カスタムおよび Azure OpenAI エンドポイントで利用可能だったエンドポイントごとの summarize および summaryModel フィールドに代わるものです。

会話がモデルのコンテキストウィンドウを超えると、要約システムが古いメッセージを自動的に簡潔なチェックポイント要約へと圧縮します。これにより、重要なコンテキストを失うことなく、会話を無期限に継続できます。また、このシステムには**コンテキストプルーニング（context pruning）**が含まれており、要約が必要になる前に、古いメッセージ内の大きなツール結果を段階的に削減してトークン領域を再確保します。

要約のターンが実行された後、コンテキスト使用量ゲージは、破棄された要約前の履歴を再カウントする代わりに、永続化された要約ベースラインと要約後のターンを使用します。累積使用量とコストの合計には、引き続きブランチ全体の支出が含まれます。

例

summarization:
  provider: 'openAI'
  model: 'gpt-4o-mini'
  maxSummaryTokens: 4096
  reserveRatio: 0.05
  trigger:
    type: 'token_ratio'
    value: 0.8
  contextPruning:
    enabled: true
    keepLastAssistants: 3
    softTrimRatio: 0.3
    hardClearRatio: 0.5
    minPrunableToolChars: 50000
    softTrim:
      maxChars: 4000
      headChars: 1500
      tailChars: 1500
    hardClear:
      enabled: true
      placeholder: '[Old tool result content cleared]'

provider

デフォルト: エージェント自身のプロバイダー

model

デフォルト: エージェント自身のモデル

parameters

prompt

デフォルト: Goal（目標）、Constraints & Preferences（制約と優先事項）、Progress（進捗）、Key Decisions（重要な決定事項）、Next Steps（次のステップ）、Critical Context（重要なコンテキスト）の各セクションを生成する構造化されたチェックポイントプロンプト。

updatePrompt

デフォルト: 新しいメッセージを既存のチェックポイントにマージし、古い詳細を圧縮し、最近のアクションにより詳細な情報を与える組み込みのプロンプトです。

maxSummaryTokens

reserveRatio

デフォルト: 0.05 (5%のヘッドルーム)

trigger

trigger サブキー

トリガータイプ

例:

summarization:
  trigger:
    type: 'remaining_tokens'
    value: 8000

contextPruning

Context pruningは、要約とは独立して動作するオプトイン機能です。古いメッセージ内の大規模なツール呼び出し結果を対象とし、以下の2つの段階的なステップを適用します。

1. Soft trim — ツール結果の先頭と末尾の部分のみを残し、その間に省略記号を挿入して切り詰めます。
2. Hard clear — ツール結果全体を短いプレースホルダーに置き換えます

どちらのステージも位置ベースであり、会話の最初の方（古いもの）に近いメッセージから先に削除されます。

contextPruning サブキー

デフォルト:

softTrim サブキー

デフォルト: maxChars: 4000, headChars: 1500, tailChars: 1500

hardClear サブキー

デフォルト: enabled: true, placeholder: "[Old tool result content cleared]"

例:

summarization:
  contextPruning:
    enabled: true
    keepLastAssistants: 5
    softTrimRatio: 0.25
    hardClearRatio: 0.6
    minPrunableToolChars: 30000
    softTrim:
      maxChars: 6000
      headChars: 2500
      tailChars: 2500
    hardClear:
      enabled: true
      placeholder: '[Content removed for context management]'

設定の完全な例

version: 1.3.10
cache: true
 
summarization:
  provider: 'openAI'
  model: 'gpt-4o-mini'
  maxSummaryTokens: 4096
  reserveRatio: 0.05
  trigger:
    type: 'token_ratio'
    value: 0.8
  contextPruning:
    enabled: true
    keepLastAssistants: 3
    softTrimRatio: 0.3
    hardClearRatio: 0.5
    minPrunableToolChars: 50000
    softTrim:
      maxChars: 4000
      headChars: 1500
      tailChars: 1500
    hardClear:
      enabled: true
      placeholder: '[Old tool result content cleared]'

エンドポイントごとの設定からの移行

カスタムまたはAzure OpenAIエンドポイントで以前に summarize および summaryModel を使用していた場合：

endpoints:
  custom:
    - name: 'My Endpoint'
      summarize: true
      summaryModel: 'gpt-3.5-turbo'

これらのフィールドは削除されました。代わりにトップレベルの summarization 設定を使用してください：

summarization:
  model: 'gpt-4o-mini'

注記

• 要約機能はエンドポイントごとではなく、グローバルに設定されます。
• カスタムエンドポイントおよびAzure OpenAIエンドポイントにおける summarize および summaryModel フィールドは、現在サポートされていません。
• provider と model が省略された場合、エージェント自身の provider と model が要約に使用されます。
• Context pruningはデフォルトで無効になっており、contextPruning.enabled: true を指定して明示的に有効にする必要があります。
• Context pruningは、minPrunableToolChars を超えるツール呼び出しの結果にのみ影響します。これより小さい結果が剪定されることはありません。
• keepLastAssistants 設定は、トリミングやクリアの比率に関係なく、直近のターンを削除から保護します。
• カスタムの prompt および updatePrompt 値は、組み込みのプロンプトを完全に置き換えます。使用には十分注意してください。
• .env ファイルで AGENT_DEBUG_LOGGING=true を設定すると、トークン数やコンテキストの剪定に関する診断の詳細なログ出力を有効にできます。