Agent 记忆系统设计：短期与长期记忆的实现方案

本文探讨 Agent 记忆系统的设计，将其分为短期记忆和长期记忆两个层面，并详细介绍了各自的实现方案与注意事项。

框架与核心观点如下：

1. 总体设计原则：将 Agent 的记忆系统拆分为两层：

   • 短期记忆：服务于当前会话，通过技术手段控制上下文长度，同时保持语义连贯。
   • 长期记忆：服务于跨会话场景，通过检索机制从历史信息中按需提取相关记忆。

2. 短期记忆的两种主要方案：

   • 固定窗口截断：只保留最近 N 轮对话或 Token，超出部分直接丢弃。优点是实现简单、成本低、长度稳定，适用于闲聊或简单客服场景；缺点是可能因“一刀切”而丢失早期关键信息，导致 Agent“失忆”。
   • 滚动摘要：在对话历史即将超出窗口时，将早期对话内容总结成一条更短的摘要，用以替换原始记录。优点是能在压缩长度的同时，保留任务目标、风格要求等高价值信息，并缓解长上下文导致的注意力稀释，更适合项目规划、长篇创作等长任务；代价是需要额外的模型调用，且摘要质量直接影响后续效果。

3. 长期记忆的构建方案：利用向量数据库构建知识库的通用方案。

   • 核心思路：将过去的对话处理成可检索的记忆片段，在需要时按相关性召回。
   • 关键三步流程：
     • 存储：将对话向量化后，与原文一同存入长期记忆库。
     • 检索：根据用户新问题进行相似度搜索。
     • 组合：将最相关的历史片段与当前问题一同输入给模型。
   • 优点：突破了上下文窗口的限制，能从海量历史中精准提取相关信息，是构建个性化助手、企业知识库等长期交互系统的基础。
   • 缺点：系统复杂度高，需引入 Embedding 模型、向量数据库及整套检索逻辑。

4. 实践中的重要考量：

   • 记忆写入准则：不应默认存储全部内容，而应为长期记忆设置准入条件，例如只将长期用户偏好、核心任务目标、已确认的重要事实和可复用的结论等写入。
   • 记忆治理：强调记忆是动态数据资产，必须进行定期清理、合并、更新和事实校验，并为用户提供管理接口，以确保长期记忆系统的稳定运行。