Agent长期记忆的三道关:可达、充分与适用

作者:新兰2026.11.16 10:20浏览量:0

简介:长期记忆不只是能被找到。本文定义Agent长期记忆的三个环节:记忆可达性、证据充分性与任务适用性,说明各环节的失败方式与对应改进思路,并给出分环节评估方法,帮助开发者判断优化应落在哪一层,避免把所有问题都归为检索效果。

一、概念定义

长期记忆是指Agent在多次会话之间保存、检索并使用历史信息的能力。它与单次模型调用中的上下文窗口不同。上下文窗口内的内容在会话结束后消失,长期记忆则持久保存,系统需要在未来某次请求中判断哪些历史信息与当前任务相关,并把它们安全地放入模型输入。

完整的长期记忆包含三个环节。第一,一条记忆能否被找到,即可达性。第二,找到之后能否组成足够支撑决策的证据,即充分性。第三,这条证据是否适用于当前任务,即适用性。三者的失败原因和修复手段各不相同,因此不宜合并为“检索效果好不好”这一个指标。

二、背景与价值

用户与助手的交互跨越较长时间。用户几个月前提过的饮食禁忌、工作地点变化或使用偏好,如果在当前请求中被忽略,助手只能给出通用答案。长期记忆解决的正是这类跨会话连续性问题。

在工程实践中,一个反复出现的结论是:保留原始历史的检索流程往往已经很强。原始对话完整保存,经过分块、向量召回和重排序,再把命中的片段交给回答模型,这一流程能解决相当比例的问题。它的价值在于基线可靠,信息不会因为提前压缩而丢失。

压缩带来的风险也很具体。假设原始对话是“我本来打算去年去北京工作,但后来因为父亲身体不好,最后选择留在上海”。如果只保存“用户考虑过去北京工作”,信息没有凭空捏造,但最终决定和原因已经丢失。之后系统可能错误地推荐北京相关的机会。因此,记忆的价值不只在于事实本身,也在于事实之间的关系,例如条件、决定和原因。

三、长期记忆需要回答的三个问题

以一个具体场景说明。几个月前,用户提到:同事小王对花生严重过敏,上次聚餐时差点因为餐厅的交叉接触出问题。几个月后,用户请求:帮我安排一下明天的团队聚餐,推荐几家合适的餐厅。

(一)可达性:能不能找到

查询中没有出现“小王”“花生”或“过敏”。如果系统只依赖查询词与记忆文本的字面匹配,或只依赖单一向量相似度,这条记忆很可能召回不了。可达性关注索引与召回机制,即如何在查询与记忆的语义距离之外,把可能相关的历史找出来。

常见做法包括:写入时为记忆生成多种索引,例如实体(人名、团队)、主题(饮食安全)、事件(聚餐);查询时根据参与者和活动类型扩展检索词;把历史记忆与当前参与人关联起来。

(二)充分性:能不能用好

即使想起了过敏信息,系统仍需判断还要哪些证据才能做出可靠决策。本例中,交叉接触的经历说明风险不只来自食材本身,还来自厨房环境和共用设备。其他参加者的饮食限制和环境偏好同样会影响推荐。如果只取出“小王对花生过敏”一句,推荐结果可能只排除含花生的菜品,却忽略了交叉接触风险。

因此,相关证据需要成组进入上下文。一组较完整的证据通常包括:过敏事实及严重程度、事件经过、其他参与者的限制、与餐厅相关的环境要求。充分性关注的是证据组装的质量,而不只是召回数量。

(三)适用性:应不应该用

假设小王明天并不参加聚餐,这条记忆虽然真实,却不应成为本次推荐的约束。记忆正确并不等于它与任务相关。适用性判断需要回答以下问题:记忆的主体是否在本次任务范围内,信息的时效是否仍然有效,用途是否与当前请求一致,用户是否允许在此场景中使用这条记忆。

三个问题的失败模式各不相同。找不到是召回问题。找到了但证据不够,是组装问题。找到且证据充分,却不该用,是决策问题。明确区分这三类问题,才能决定该改哪一层。

四、核心组成

面向长期记忆的系统通常包含以下模块。

  1. 写入与保留:决定哪些对话内容需要保存,以及保存为什么形式。保留原始片段是保证证据完整的基础,结构化抽取可以作为补充索引,但不应替代原文。
  2. 索引与召回:为记忆建立关键词、向量、实体、时间等多种索引,并支持按用户、会话、主题过滤。
  3. 重排与证据组装:对候选结果排序,并把相关的事实、条件、原因和邻近上下文组合在一起。
  4. 适用性判断:根据当前任务的参与者、时间、目标和权限,决定哪些记忆可以作为约束或参考。
  5. 回答生成:模型基于组装好的证据生成结果,并在需要时说明依据。
  6. 更新与冲突处理:当新信息与旧记忆矛盾时,记录时效并更新,避免过期事实长期生效。

五、工作原理

下面的伪代码展示一次请求中的基本流程。它只表达结构,不对应任何特定实现。

  1. def answer_with_memory(user_id, query, task_context):
  2. # 1. 可达性:多路召回候选记忆
  3. candidates = []
  4. candidates += vector_search(user_id, query)
  5. candidates += entity_search(user_id, expand_entities(task_context))
  6. candidates += time_window_search(user_id, task_context.time_range)
  7. # 2. 充分性:补全同一事件的相关证据
  8. evidence = assemble_evidence(candidates, include=["condition", "reason", "context"])
  9. # 3. 适用性:过滤主体不在任务范围或已失效的记忆
  10. applicable = [e for e in evidence if is_applicable(e, task_context)]
  11. # 4. 生成:把适用证据与当前请求一起交给模型
  12. return llm.generate(query=query, memory=applicable)

每一步都可以独立评估和替换。例如,召回阶段可以单独衡量相关记忆的命中率,适用性阶段可以单独衡量误用率。

六、典型场景

  • 个人助理:记住日程偏好、饮食禁忌和常用地点。
  • 客户服务:跨会话保留用户的历史问题和已采取的处理方式。
  • 团队协作:记录项目决策、责任人和变更原因。
  • 健康相关咨询:过敏与用药信息需要严格的时效控制和可核对的来源。
  • 运维与开发助手:记住环境配置、历史故障及其修复步骤。

七、相关概念区别

  • 上下文窗口与长期记忆:上下文窗口是单次模型调用能看到的内容,长期记忆是跨会话持久保存、按需调取的内容。
  • 检索与记忆:检索是找到相关内容的过程。记忆则是被保存、可更新、带有时间与主体信息的知识。检索是记忆系统的一个环节,本身不等同于记忆能力。
  • 原始证据与摘要记忆:摘要节省空间,但容易丢失条件和因果关系。原始证据保真,但占用更多上下文。实践中常见的做法是用摘要建立索引,用原始片段作为依据。
  • 事实与关系:事实回答“是什么”,关系说明“为什么”以及“在什么条件下成立”。两者缺一,都会影响决策质量。

八、使用注意事项

  1. 分环节评估:分别统计召回率(相关记忆是否被找到)、证据完整率(组装结果是否包含必要的条件和原因)和适用准确率(不该用的记忆是否被排除)。只看最终回答的得分,很难定位问题出在哪一环。
  2. 先建立原始检索基线:在引入复杂记忆结构之前,先用保留原始对话的检索流程作为对照。如果增益不明显,应先优化分块、召回和重排。
  3. 时效与更新:过敏、住址、职位等信息会随时间变化。记忆应记录写入时间和来源,发生冲突时更新或标记失效。
  4. 隐私与权限:长期记忆涉及个人信息。应按用户隔离存储,限制访问范围,并允许用户查看、修改和删除自己的记忆。
  5. 上下文成本:组装的证据越多,token 消耗和噪声越高。证据组装需要明确的预算和优先级规则。
  6. 误用风险:记忆不应在用户不知情的情况下影响重要决策。关键约束应在回答中说明依据,方便用户核对。

九、总结

长期记忆的目标是让助手在正确的时间,基于正确的证据,做出正确的决定。可达性解决能