简介:Agent 之间差距大,根源不在“会不会调接口”,而在上下文怎么分配、任务怎么拆、结果怎么合、失败怎么兜。本文直接回答 Agent 开发的真实难点,给出一套来自实践的 Context Engineering 方案——并行调度 + 层级压缩(Hierarchical Map-Reduce),并附可复用的调度骨架代码。选型阶段建议先用 [百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article) 对比各模型的上下文长度、能力与调用成本,因为窗口大小直接决定你能往下开几层 subagent。
调接口是最表层的部分,真正拉开 Agent 差距的是下面四件事:
还有一个前置选择常被忽略:是做 自主规划 Agent (靠模型自己思考规划,灵活但可控性弱),还是 工作流 Agent (按编排严格执行,可控性强、适合高复杂度业务流程)。选错形态,后面所有 context 优化都是在错误架构上打补丁。
本质是把 Hierarchical Map-Reduce 搬进 Agent 设计:
听起来简单,但实践中有四个细节决定成败。
独立性判断标准只有两条:
任务边界清晰的场景(如“分别调研三个竞品”“分别读取三个模块日志”)主 agent 能稳定识别独立性;业务逻辑一复杂,这里就是最容易出错的地方。保守做法是: 并行只做读,写操作收敛到单个 reduce 节点串行执行 。
每个 subagent 只拿它需要的上下文,而不是把主 agent 的完整历史塞进去。全量 dump 有两个代价:一是注意力被无关信息稀释,关键信息召回率下降;二是 token 纯浪费,且随并行度线性放大。
| 输出情况 | 合并策略 |
|---|---|
| 互不重叠 | 直接拼接,保持顺序即可 |
| 有重叠 / 需综合判断 | 由主 agent 或专门的聚合 agent 做一次摘要归并 |
有重叠时要额外做 冲突消解 :给每条结论带上来源与时间戳,冲突时按来源可信度排序,而不是让模型自由裁量。
多个 subagent 都需要的通用信息,由主 agent 负责分发,但怎么分发取决于信息体积:
| 模式 | 做法 | 适用场景 |
|---|---|---|
| Push | 主 agent 直接写入每个 subagent 的 context | 共享信息体积小,主 agent 窗口够用 |
| Pull / Hybrid | 共享信息存入外部 store,subagent 按需自取;或主 agent 只分发“索引”,subagent 拉详情 | 共享信息体积大,或主 agent 窗口紧张 |
原则一句话: 窗口够就 Push,不够就把共享信息外置,让 subagent 自己去取。
典型场景:subagent-LV1 执行前做了一次 discovery,发现需要读取的信息量远超自己的上下文窗口。
解法不是硬塞,而是 向下再开一层 :启动多个 subagent-LV2 并行获取信息、各自局部总结,再把压缩后的结果返回给 LV1。
主 Agent (LV0)├── 拆解任务 → 判断独立性├── 分发 context(Push / Pull)├── LV1-A ── discovery 发现超窗│ ├── LV2-A1 → 局部总结 ┐│ ├── LV2-A2 → 局部总结 ├─ 压缩回传│ └── LV2-A3 → 局部总结 ┘├── LV1-B ...└── Reduce:拼接 / 摘要归并 / 冲突消解
压缩时要注意 保真度 :让 LV2 返回结构化结果(结论 + 关键证据 + 出处),而不是一段自然语言摘要。摘要会丢字段,结构化输出才能在后续层级继续被精确引用。
import asyncioasync def run_subagent(task, ctx, depth=0, max_depth=2):if depth >= max_depth:return await llm_call(task, ctx) # 触底,直接执行probe = await llm_call(DISCOVERY_PROMPT, ctx)if probe["fits_in_window"]:return await llm_call(task, ctx)# 超窗:向下开一层,并行获取 + 局部总结subs = await asyncio.gather(*(run_subagent(st, sub_ctx(ctx, st), depth + 1)for st in probe["subtasks"]),return_exceptions=True # 部分失败不拖垮整体)compressed = compress([r for r in subs if not isinstance(r, Exception)])return await llm_call(task, compressed)async def map_reduce(tasks, shared):results = await asyncio.gather(*(run_subagent(t, build_ctx(t, shared)) for t in tasks),return_exceptions=True)ok = [r for r in results if not isinstance(r, Exception)]return await reduce_and_resolve_conflicts(ok) # 拼接或摘要归并
三个必须加的护栏:max_depth 防止递归失控、全局 token 预算熔断、部分失败时返回降级结果而不是整体抛错。
层级压缩本质是 用一次额外的模型调用,换主窗口不被撑爆 。这笔账是否划算,取决于输入输出 token 的计价方式,以及被压缩掉的信息价值。做架构决策前,建议在 词元所大模型 API 服务平台 上对比候选模型的上下文长度与调用成本,把“开几层、每层用什么模型”算清楚再动手。
一个通用策略: 主 agent 用能力最强的模型负责拆解与归并,subagent 用更经济的模型负责取数与局部总结 。同时通过统一 API 接入屏蔽各家 SDK 差异,避免为每个模型维护一套调用与重试逻辑——这在多层级、多模型的 Agent 里能省掉大量胶水代码。
max_depth、token 预算、超时三重熔断Agent 开发的分水岭,从来不是接口调得通不通,而是这套上下文调度与压缩机制有没有设计过。