简介:长期记忆不只是能被找到。本文定义Agent长期记忆的三个环节:记忆可达性、证据充分性与任务适用性,说明各环节的失败方式与对应改进思路,并给出分环节评估方法,帮助开发者判断优化应落在哪一层,避免把所有问题都归为检索效果。
一、概念定义
长期记忆是指Agent在多次会话之间保存、检索并使用历史信息的能力。它与单次模型调用中的上下文窗口不同。上下文窗口内的内容在会话结束后消失,长期记忆则持久保存,系统需要在未来某次请求中判断哪些历史信息与当前任务相关,并把它们安全地放入模型输入。
完整的长期记忆包含三个环节。第一,一条记忆能否被找到,即可达性。第二,找到之后能否组成足够支撑决策的证据,即充分性。第三,这条证据是否适用于当前任务,即适用性。三者的失败原因和修复手段各不相同,因此不宜合并为“检索效果好不好”这一个指标。
二、背景与价值
用户与助手的交互跨越较长时间。用户几个月前提过的饮食禁忌、工作地点变化或使用偏好,如果在当前请求中被忽略,助手只能给出通用答案。长期记忆解决的正是这类跨会话连续性问题。
在工程实践中,一个反复出现的结论是:保留原始历史的检索流程往往已经很强。原始对话完整保存,经过分块、向量召回和重排序,再把命中的片段交给回答模型,这一流程能解决相当比例的问题。它的价值在于基线可靠,信息不会因为提前压缩而丢失。
压缩带来的风险也很具体。假设原始对话是“我本来打算去年去北京工作,但后来因为父亲身体不好,最后选择留在上海”。如果只保存“用户考虑过去北京工作”,信息没有凭空捏造,但最终决定和原因已经丢失。之后系统可能错误地推荐北京相关的机会。因此,记忆的价值不只在于事实本身,也在于事实之间的关系,例如条件、决定和原因。
三、长期记忆需要回答的三个问题
以一个具体场景说明。几个月前,用户提到:同事小王对花生严重过敏,上次聚餐时差点因为餐厅的交叉接触出问题。几个月后,用户请求:帮我安排一下明天的团队聚餐,推荐几家合适的餐厅。
(一)可达性:能不能找到
查询中没有出现“小王”“花生”或“过敏”。如果系统只依赖查询词与记忆文本的字面匹配,或只依赖单一向量相似度,这条记忆很可能召回不了。可达性关注索引与召回机制,即如何在查询与记忆的语义距离之外,把可能相关的历史找出来。
常见做法包括:写入时为记忆生成多种索引,例如实体(人名、团队)、主题(饮食安全)、事件(聚餐);查询时根据参与者和活动类型扩展检索词;把历史记忆与当前参与人关联起来。
(二)充分性:能不能用好
即使想起了过敏信息,系统仍需判断还要哪些证据才能做出可靠决策。本例中,交叉接触的经历说明风险不只来自食材本身,还来自厨房环境和共用设备。其他参加者的饮食限制和环境偏好同样会影响推荐。如果只取出“小王对花生过敏”一句,推荐结果可能只排除含花生的菜品,却忽略了交叉接触风险。
因此,相关证据需要成组进入上下文。一组较完整的证据通常包括:过敏事实及严重程度、事件经过、其他参与者的限制、与餐厅相关的环境要求。充分性关注的是证据组装的质量,而不只是召回数量。
(三)适用性:应不应该用
假设小王明天并不参加聚餐,这条记忆虽然真实,却不应成为本次推荐的约束。记忆正确并不等于它与任务相关。适用性判断需要回答以下问题:记忆的主体是否在本次任务范围内,信息的时效是否仍然有效,用途是否与当前请求一致,用户是否允许在此场景中使用这条记忆。
三个问题的失败模式各不相同。找不到是召回问题。找到了但证据不够,是组装问题。找到且证据充分,却不该用,是决策问题。明确区分这三类问题,才能决定该改哪一层。
四、核心组成
面向长期记忆的系统通常包含以下模块。
五、工作原理
下面的伪代码展示一次请求中的基本流程。它只表达结构,不对应任何特定实现。
def answer_with_memory(user_id, query, task_context):# 1. 可达性:多路召回候选记忆candidates = []candidates += vector_search(user_id, query)candidates += entity_search(user_id, expand_entities(task_context))candidates += time_window_search(user_id, task_context.time_range)# 2. 充分性:补全同一事件的相关证据evidence = assemble_evidence(candidates, include=["condition", "reason", "context"])# 3. 适用性:过滤主体不在任务范围或已失效的记忆applicable = [e for e in evidence if is_applicable(e, task_context)]# 4. 生成:把适用证据与当前请求一起交给模型return llm.generate(query=query, memory=applicable)
每一步都可以独立评估和替换。例如,召回阶段可以单独衡量相关记忆的命中率,适用性阶段可以单独衡量误用率。
六、典型场景
七、相关概念区别
八、使用注意事项
九、总结
长期记忆的目标是让助手在正确的时间,基于正确的证据,做出正确的决定。可达性解决能