ユーザーメモリ

概要

LibreChatにおけるUser Memoryは、会話全体を通じてユーザー固有の情報を保持するキー/バリュー（key/value）ストアです。専用のメモリ・エージェントがすべてのチャットリクエストの開始時に実行され、このストアに対して読み書きを行うことで、メインのAI応答にパーソナライズされたコンテキストを提供します。

主な機能

• すべてのリクエストで実行: メモリエージェントは各チャットリクエストの開始時に実行され、保存されたコンテキストが常に利用可能であることを保証します。
• Key/Value Storage: 情報は生の会話ログとしてではなく、構造化されたキー/値ペアとして保存されます
• 手動エントリ: ユーザーはメモリのエントリを直接追加、編集、削除できるため、AIが何を記憶するかを完全に制御できます。
• ユーザーコントロール: 有効にすると、ユーザーは個々のチャットでメモリのオン/オフを切り替えることができます
• カスタマイズ可能なキー: validKeys を使用して、保存可能な情報のカテゴリを制限します。
• トークン管理: メモリ使用量に制限を設定してコストを管理します
• Agent Integration: AIエージェントを使用して、何を記憶するかをインテリジェントに管理します

設定

メモリ機能を有効にするには、librechat.yamlファイルにmemory設定を追加する必要があります。

version: 1.3.5
cache: true

memory:
  disabled: false # Set to true to completely disable memory
  personalize: true # Gives users the ability to toggle memory on/off, true by default
  tokenLimit: 2000 # Maximum tokens for memory storage
  maxInputTokens: 12000 # Maximum recent-chat tokens sent to the memory agent
  messageWindowSize: 5 # Number of recent messages to consider
  agent:
    provider: 'openAI'
    model: 'gpt-4'

provider フィールドは、Model Spec Guide で定義されている許容値と一致している必要があります。

注: カスタム endpoint を使用している場合、endpoint の値は定義されたカスタム endpoint 名と完全に一致している必要があります。

詳細な設定オプションについては、Memory Configuration Guide を参照してください。

仕組み

1. Key/Value Storage

Memory エントリはキー/値ペアとして保存されます。Memory が有効な場合、システムは以下のようなエントリを保存できます。

• ユーザー設定（コミュニケーションスタイル、関心のあるトピック）
• ユーザーによって明示的に共有された重要な事実
• 言及されている進行中のプロジェクトやタスク
• validKeys を介して定義する任意のカテゴリ

ユーザーはインターフェースを通じてメモリのエントリを手動で作成、編集、削除することもでき、AIが自分自身について知っている内容を直接制御できます。

2. コンテキストウィンドウ

messageWindowSize パラメータは、メモリ更新のために分析される直近のメッセージ数を決定します。これは、メモリ・エージェントがどの情報をキー/値ストアに保存または更新する価値があるかを判断するのに役立ちます。

maxInputTokens パラメータは、抽出前に自動メモリ・エージェントへ送信される直近のチャットテキストの上限を設定します。選択されたメッセージウィンドウが依然として大きすぎる場合、LibreChat は最新のコンテキストを保持し、メモリ・エージェントを呼び出す前にそれ以前のチャット内容を省略します。

3. ユーザーコントロール

personalize が true に設定されている場合：

• ユーザーはチャットインターフェースでメモリのトグルを確認できます
• 個々の会話に対してメモリの有効化/無効化を切り替えることができます。
• メモリ設定はセッション間で保持されます

4. 有効なキー

validKeys を指定することで、保存される情報のカテゴリを制限できます：

memory:
  validKeys:
    - 'user_preferences'
    - 'conversation_context'
    - 'learned_facts'
    - 'personal_information'

ベストプラクティス

1. トークン制限

機能とコストのバランスを取るために、適切なトークン制限を設定してください：

• より高い制限を設定することで、より包括的なメモリが可能になります
• 下限値を設定することで処理コストを削減できます
• 利用パターンと予算を考慮してください

2. Custom Instructions

validKeys を使用する際は、memory agent に対してカスタム指示を提供してください：

memory:
  agent:
    provider: 'openAI'
    model: 'gpt-4'
    instructions: |
      Store information only in the specified validKeys categories.
      Focus on explicitly stated preferences and important facts.
      Delete outdated or corrected information promptly.

3. プライバシーに関する考慮事項

• Memoryは会話全体を通してユーザー情報を保存します
• ユーザーがどのような情報が保存されているかを理解できるようにしてください
• データ保持ポリシーの実装を検討してください
• メモリ使用量に関する明確なドキュメントを提供する

例

基本設定

デフォルト設定でメモリを有効にする:

memory:
  tokenLimit: 2000
  maxInputTokens: 12000
  agent:
    provider: 'openAI'
    model: 'gpt-4.1-mini'

高度な設定

すべてのオプションを含む完全な設定:

memory:
  disabled: false
  validKeys: ['preferences', 'context', 'facts']
  tokenLimit: 3000
  maxInputTokens: 12000
  personalize: true
  messageWindowSize: 10
  agent:
    provider: 'anthropic'
    model: 'claude-3-opus-20240229'
    instructions: 'Remember only explicitly stated preferences and key facts.'
    model_parameters:
      temperature: 0.3

プロバイダーごとの有効なモデルパラメーターについては、Model Spec Preset Fields を参照してください。

定義済みエージェントの使用

IDで既存のAgentを参照する:

memory:
  agent:
    id: 'memory-specialist-001'

メモリ付きカスタム endpoint

Memoryは、カスタムヘッダーや環境変数を含むカスタムendpointを完全にサポートしています。カスタムendpointを使用する場合、ヘッダーのプレースホルダーと環境変数は、Memoryの処理中に適切に解決されます。

endpoints:
    custom:
        - name: 'Custom Memory Endpoint'
           apiKey: 'dummy'
           baseURL: 'https://api.gateway.ai/v1'
           headers:
             x-gateway-api-key: '${GATEWAY_API_KEY}'
             x-gateway-virtual-key: '${GATEWAY_OPENAI_VIRTUAL_KEY}'
             X-User-Identifier: '{{LIBRECHAT_USER_EMAIL}}'
             X-Application-Identifier: 'LibreChat - Test'
             api-key: '${TEST_CUSTOM_API_KEY}'
           models:
             default:
               - 'gpt-4o-mini'
               - 'gpt-4o'
             fetch: false

memory:
  disabled: false
  tokenLimit: 3000
  maxInputTokens: 12000
  personalize: true
  messageWindowSize: 10
  agent:
    provider: 'Custom Memory Endpoint'
    model: 'gpt-4o-mini'

• すべての custom endpoint headers がサポートされています。

トラブルシューティング

Memory が動作しない場合

1. librechat.yaml でメモリが設定されていることを確認してください。
2. disabled が false に設定されていることを確認してください
3. 設定されたエージェント/モデルが利用可能であることを確認してください
4. ユーザーがチャットインターフェースでメモリを有効にしていることを確認してください
5. カスタムエンドポイントの場合: provider 名がカスタムエンドポイントの name と完全に一致していることを確認してください。

高いトークン使用量

1. tokenLimit を減らしてコストを管理する
2. maxInputTokens を減らして、メモリ管理エージェントに送信される最近のチャット量を制限します。
3. messageWindowSize を減らして、分析するメッセージ数を少なくします
4. validKeys を使用して、保存される内容を制限します
5. エージェントの指示を確認および最適化する

メモリの不整合

1. ユーザーがメモリのオン/オフを切り替えているか確認する
2. トークン制限を超えていないことを確認する
3. 一貫したエージェント設定を確保する
4. 保存されたメモリの競合を確認する

カスタム endpoint の認証に関する問題

1. .env ファイル内の環境変数が正しく設定されていることを確認してください。
2. カスタムヘッダーが正しい構文（環境変数の場合は ${ENV_VAR}、ユーザープレースホルダーの場合は {{LIBRECHAT_USER_*}}）を使用していることを確認してください。
3. メモリでテストする前に、カスタムendpointが通常のチャット補完で動作することを確認してください。
4. カスタム endpoint API からの認証エラーについて、サーバーログを確認してください。

今後の改善点

現在の実装では、すべてのチャットリクエストに対して無条件にメモリ・エージェントを実行します。計画されている改善点は以下の通りです：

• 書き込みのセマンティックトリガー: ユーザーがモデルに対して明示的に何かを記憶するように依頼したとき（例：「私がPythonを好むことを覚えておいて」）のみメモリ書き込みエージェントを実行するように検出し、日常的なメッセージに対する不要な処理を削減します。
• Vector Similarity Recall: すべての保存済みメモリをすべてのリクエストに注入する代わりに、ベクトル埋め込みを使用して現在の会話コンテキストに最も関連性の高いエントリのみを検索することで、効率性と関連性の両方を向上させます。

関連機能

• Agents - カスタムAIアシスタントを構築
• Presets - 会話設定を保存
• Fork Messages - コンテキストを維持したまま会話を分岐させる