简介:当编码智能体的上下文窗口接近上限时,如何延续长任务是关键问题。本文对比"传统上下文压缩"与"状态分离式上下文管理"两种思路,拆解它们在信息载体、交接机制、信息保真度与运维复杂度上的差异,帮助开发者在选型时判断哪种方案更契合自身的任务特征与工程约束。
让编码智能体去迁移一套跨模块的认证中间件,是一个典型的长任务:它先梳理调用链,确认旧接口暂时不能删除;排除统一升级 SDK 的路线后,主链路改完;集成测试却又卡在偶现的鉴权失败上。任务尚未结束,上下文窗口却已接近上限。
这时,智能体必须面对一个工程问题:眼前的工作状态、下一步的推理依据、以及此前积累的任务事实,要如何跨过一个即将耗尽的窗口继续存在。围绕这个问题,业界形成了两种代表性思路。本文对比的对象就是:
值得强调的是,近期一些主流编码工具与开源智能体框架的公开讨论都指向同一趋势:围绕”用完上下文后如何续跑”进行架构试验,而这类上下文管理能力在多数实现里仍处于默认关闭的实验阶段,仅对部分付费订阅会话开放,通过 API Key 或自定义模型提供方接入时往往暂不支持。本文不预设哪一方”更优”,而是帮助读者理解差异来源与选型条件。
其核心动作是”有损收敛”:把前面的对话、工具调用和结果统一压缩为一份摘要,用摘要替换原始历史,再基于摘要继续推理。它让大量长任务得以持续推进,工程实现相对直接,是许多智能体的默认续跑机制。
其核心动作是”分门别类”,把信息按用途拆到不同载体:
窗口将满时,它切换到新的上下文窗口,只载入交接笔记,需要旧细节时再回查历史。
两种方案并非对立关系,它们在多个层面共享基础假设:
方案A把责任压在一份摘要上,而这份摘要不得不同时承担三重角色:既是当前工作的续接点,又是跨窗口的交接文档,还要尽量保留可追溯的原始依据。责任过载导致它在压缩时必须提前猜测后续还会用到什么。
方案B则把这三重角色拆开:工作集负责续接,笔记负责交接,历史负责回查,外部系统负责沉淀事实。信息各司其职,不必让单一载体面面俱到。
压缩的本质是有损的。”旧接口要保留”这个结论也许写进了摘要,但支撑它的兼容原因未必留存;”集成测试失败”留下了,第一次失败时的完整日志却可能丢失;某条路线已试过并放弃,若放弃原因被压掉,换窗口后智能体可能重走一遍弯路。
状态分离则因为保留了原始历史,在需要时能回查到完整细节;任务事实落在代码与外部系统中,天然具备可核对、可复现的权威性,不依赖摘要的”转述”。
方案A的交接信息隐含在摘要里,依赖模型在压缩时的判断;方案B用笔记做显式交接,把”下一步该做什么、哪些坑已避开”明确写下来,交接意图更清晰,也更容易被后续窗口准确接收。
这是方案B需要正视的代价。方案A改动集中、逻辑单一;方案B涉及多载体的协调——切换窗口的时机、笔记的更新策略、历史归档与回查索引、外部事实的读写边界,都需要额外设计。若实现不当,可能出现”笔记与历史不一致””回查路径失效”等新问题。
# 方案A:压缩,用摘要替换历史def when_context_near_full(state):summary = summarize(state.conversation) # 压成一份摘要state.conversation = [summary] # 原始细节被收敛# 摘要需提前预判:后续会用到什么?# 方案B:状态分离,分层保留state = {"working_set": [...], # 当前窗口的高频信息"notes": {...}, # 跨窗口交接要点(显式记录)"history": [...], # 原始交互记录,可回查# 任务事实落在代码与外部系统中,不重复入上下文}def when_context_near_full(state):archive(state.history) # 归档原始记录new_window = open_new_context() # 切换新窗口new_window.load(state.notes) # 仅载入交接笔记# 需要旧细节时从 history 回查,而非塞进摘要
| 对比维度 | 方案A:上下文压缩 | 方案B:状态分离管理 |
|---|---|---|
| 核心机制 | 有损压缩为单一摘要 | 多载体分层 + 窗口切换 |
| 信息载体 | 一份摘要 | 工作集/笔记/历史/外部事实 |
| 保真度 | 压缩有损,细节易丢 | 原始记录可回查,保真度较高 |
| 交接方式 | 隐含在摘要中,依赖猜测 | 笔记显式记录,意图清晰 |
| 返工风险 | 放弃原因易丢失,可能重走弯路 | 历史可回查,返工风险较低 |
| 实现复杂度 | 低,改动集中 | 较高,需协调多载体一致性 |
| 运维成本 | 低 | 中,需维护切换/归档/回查链路 |
| 落地成熟度 | 成熟,常作默认机制 | 多为实验性,默认关闭 |
| 接入限制 | 通用 | 常仅部分订阅场景可用 |
从方案A切换到方案B时,需提前评估:
回到最初的问题——上下文用完后长任务怎么继续?两种方案给出的是不同答案:压缩用一份摘要做”有损收敛”,简单直接但依赖提前预判,细节易丢;状态分离用分层记忆做”可回查续接”,保真度更高但需承担协调与运维成本。表面上这是在讨论”记忆”,实质上比较的是状态如何被组织与管理。选型不必非此即彼,而应回到任务规模、返工成本与团队工程能力上做出条件化判断:短任务重效率可偏向压缩,长任务重保真可考虑状态分离,复杂场景则以渐进混合折中。