エージェント記憶システム設計：短期・長期記憶の実装方法

本稿では、エージェントの記憶システム設計について、短期記憶と長期記憶の2層に分け、それぞれの実装方法と注意点を詳しく解説します。

フレームワークとコアとなる見解は以下の通りです：

1. 全体設計原則：エージェントの記憶システムを2層に分割します：

   • 短期記憶：現在のセッションにサービスを提供し、技術的手段でコンテキスト長を制御しつつ、意味的な一貫性を維持します。
   • 長期記憶：セッションをまたぐシナリオにサービスを提供し、検索メカニズムを通じて履歴情報から関連記憶を必要に応じて抽出します。

2. 短期記憶の2つの主要な方法：

   • 固定ウィンドウ切り捨て：最新のN回の対話またはトークンのみを保持し、超過分は直接破棄します。実装が簡単でコストが低く、長さが安定しており、雑談や簡単なカスタマーサービスシナリオに適しています。欠点は、「一律切り捨て」により初期の重要な情報が失われ、エージェントが「記憶喪失」になる可能性があることです。
   • ローリングサマリー：対話履歴がウィンドウを超えそうになったとき、初期の対話内容をより短い要約にまとめ、元の記録を置き換えます。長さを圧縮しつつ、タスク目標やスタイル要件などの高価値情報を保持でき、長いコンテキストによる注意散漫を緩和できるため、プロジェクト計画や長文作成などの長いタスクに適しています。代償として、追加のモデル呼び出しが必要であり、要約の品質がその後の効果に直接影響します。

3. 長期記憶の構築方法：ベクトルデータベースを用いた知識ベース構築の一般的な方法。

   • コアアイデア：過去の対話を検索可能な記憶断片に加工し、必要なときに関連性に基づいて呼び出します。
   • 重要な3ステップの流れ：
     • 保存：対話をベクトル化した後、原文とともに長期記憶データベースに保存します。
     • 検索：ユーザーの新しい質問に基づいて類似度検索を行います。
     • 組み合わせ：最も関連性の高い履歴断片を現在の質問とともにモデルに入力します。
   • 利点：コンテキストウィンドウの制限を突破し、大量の履歴から正確に関連情報を抽出でき、パーソナライズされたアシスタントや企業知識ベースなどの長期対話システムの基盤となります。
   • 欠点：システムの複雑さが高く、Embeddingモデル、ベクトルデータベース、および一連の検索ロジックを導入する必要があります。

4. 実践における重要な考慮事項：

   • 記憶書き込み基準：デフォルトですべての内容を保存するのではなく、長期記憶にはアクセス条件を設定すべきです。例えば、長期的なユーザー嗜好、コアタスク目標、確認済みの重要な事実、再利用可能な結論などだけを書き込みます。
   • 記憶ガバナンス：記憶は動的なデータ資産であり、定期的なクリーンアップ、マージ、更新、事実検証が必要であり、ユーザーに管理インターフェースを提供することで、長期記憶システムの安定運用を確保します。