简介:本文对比Agent工具调用中两种质量控制思路:事后评估与执行前审查。前者在执行完成后再评估、再调prompt或重训模型,后者则在tool call真正落地前由一个专门的审查agent先审一遍。文章进一步拆解执行前审查的三种协作机制(渐进式反馈、候选选择、候选评分),从错误纠正时机、状态恢复成本、延迟开销与接入改造量等维度分析差异,帮助开发者在"要不要加质检员、加哪种质检员"上做出现实判断。
Agent在真实业务里调用工具时,失败往往不是”想不清楚”,而是”想清楚之前就已经动手了”:选错了工具、传错了参数,或者本不该调用却硬要调用。当我们在讨论”给Agent装一个执行前的质检员到底值不值”时,本质上是在比较两条质量控制的路线——事后评估(post-hoc evaluation)与执行前审查(pre-execution review)。本文围绕这两者的区别展开,并进一步拆解执行前审查内部的三种协作机制,帮助读者回答”怎么选、迁移要注意什么”。
工具调用Agent面临的错误可以归为三类:
传统应对路线主要有两条。一是基于训练的方法,通过强化学习让模型在训练中学会更好的工具选择,优点是效果稳定,但算力成本高、迭代周期长,任何场景变化都可能要重新训练。二是推理时的自我反思方法,让Agent执行后回顾自己的输出并尝试修正,优点是无需重训,但存在一个绕不开的核心难题——状态恢复问题:一旦Agent执行了破坏性操作(例如本该更新闹钟却把它删除了),自我纠正就必须把此前的完整状态保留在上下文里,多轮场景下上下文成本和复杂度会快速膨胀。
正因如此,一种新的思路是把”评估”从执行之后前移到执行之前:与其执行完再补救,不如在tool call落地前就拦下。这两种思路的差异,构成了本文的核心对比。
事后评估(方案A):Agent先完整执行一轮工具调用,系统再对结果或轨迹做评估,发现问题后调整prompt或触发重训。评估与执行在时间上分离,天然脱离实时执行回路。
执行前审查(方案B):采用主Agent + 审查Agent的双Agent架构。主Agent负责实际的工具调用,不需要重训或改架构;审查Agent(可由能力不同的模型承担)在tool call真正执行之前先审一遍,给出反馈或直接挑出最优候选。审查结论通过后再决定是否放行。
需要强调的是,方案B内部又分化出三种协作机制,它们共享”执行前审查”的思路,但协作方式差异明显:
尽管路线不同,方案A与方案B在以下层面是一致的:
这是两者最根本的差异。事后评估的纠正发生在执行之后,对于读操作影响有限,但对于写操作(删除、转账、修改配置)往往已经造成副作用,只能补救无法预防。执行前审查则在tool call落地前拦截,理论上可以在破坏性操作发生前拦下,这是它相对事后评估的最大价值。
事后评估中的自我反思路线会遭遇前述状态恢复问题:多轮纠正需要把完整历史保留在上下文里,成本随轮次增长。执行前审查把审查放在执行之前,不需要保留”已执行副作用”的状态,在多轮复杂任务中上下文压力相对可控。
代价同样明显。渐进式反馈可能需要多轮往返,审查N次、主Agent修订N次,延迟最高;候选选择与候选评分需要一次生成N个候选再评估,带来N倍的生成开销;事后评估则集中在执行之后,单次评估的在线延迟影响相对小,但无法实时纠正。总体来看,执行前审查用”更多推理开销”换取”更早的错误拦截”。
论文提出的关键问题非常清醒:审查者本身也是模型,它同样会误判。它救回来的错误和它新引入的错误,到底谁更多,决定了执行前审查是否真的净收益。如果审查Agent过于保守,可能把本来正确的调用拦下来(引入新错误);如果过于宽松,又拦不住真正的错误。因此在实际评估中,不能只看”拦截率”,而要同时看”误杀率”与”净准确率提升”。
候选评分(gN)相比纯选择(sN)多了分值和理由,便于回溯与审计,可解释性更好;渐进式反馈(rN)最接近人类协作的”改一版再看”,但链路最长、最不稳定。事后评估接入最简单,适合已经有离线评估体系的团队。
| 维度 | 事后评估(方案A) | 执行前审查(方案B) |
|---|---|---|
| 纠正时机 | 执行之后 | 执行之前 |
| 对写操作的保护 | 弱,副作用已发生 | 强,可前置拦截 |
| 状态恢复成本 | 高(多轮需保留历史) | 相对低 |
| 在线延迟 | 单次评估为主 | 多轮/多候选,延迟更高 |
| 生成开销 | 低 | 高(N倍生成或多轮往返) |
| 主要风险 | 无法预防破坏性操作 | 审查者误判、误杀正确调用 |
| 可解释性 | 依赖评估器实现 | 评分机制可提供分值与理由 |
| 接入改造量 | 小,适合离线体系 | 中,需引入双Agent链路 |
不建议做绝对化判断,而应条件化取舍:
从纯事后评估迁移到执行前审查,需要关注:
事后评估与执行前审查的分野,核心是”质量控制放在执行的哪一侧”。事后评估接入简单、在线开销低,但难以预防破坏性操作的副作用;执行前审查通过双Agent架构把评估前移,能在tool call落地前拦截错误,代价是更高的延迟与生成开销,以及”审查者本身也会误判”的新风险。渐进式反馈、候选选择、候选评分三种机制在延迟、可解释性与稳定性上各有侧重。理性的做法不是问”哪个一定更好”,而是按操作风险分层、按场景约束N与轮数、用净收益而非单一拦截率来验证效果,再决定在哪条链路上装、装哪种”质检员”。