简介:在构建可落地的Agent时,"把所有规则写进提示词"与"把确定性逻辑交给执行环境"是两条差异明显的路线。本文从技术架构、执行稳定性、Token成本、可恢复性、可审计性与运维复杂度等维度系统对比这两种模式,帮助开发者在demo验证与生产落地之间做出清晰的选型判断,并给出迁移时的注意事项。
在把大语言模型(LLM)接入真实业务时,很多团队会遇到同一个尴尬现象:在演示环境里表现惊艳的Agent,一进生产就开始”翻车”——今天能跑通,明天换个说法就失败;换个模型、调整一下上下文顺序,输出结构就完全不同。很多人第一反应是”模型不够聪明”,于是不停换模型,结果换了一圈发现现象依旧。
问题的根源往往不在模型能力,而在构建范式。主流做法是把所有规则塞进一份很长的指令文档(动辄上百行):说明身份、规定调用步骤、要求执行前确认、约定字段先后依赖……但实践反复证明,当规则堆到一定程度后,模型对规则的遵守率不升反降:跳步骤、把字段名串到错误的接口上、不经确认就执行。
由此引出本文的两个对比对象——两种Agent工程化范式。
方案A:提示词驱动型Agent
把业务身份、流程顺序、字段约束、调用规范等全部以自然语言写进提示词或指令文档,由模型在单次或多次对话中自行理解、自行组织、自行决定调用路径。模型既是”理解者”,也是”流程执行者”和”状态管理者”。
方案B:执行环境驱动型Agent
只让模型负责它最擅长的部分——理解人话、做判断、组织表达;而把流程顺序、数据格式、API调用、状态管理等确定性事务,全部交给一个模型”触碰不到”的确定性程序。模型输入是用户的自然语言,输出是结构化的JSON参数;推理是模型的事,推理之外的一切由外部轨道接管。
一言以蔽之:方案A让Agent”什么都自己想”,方案B让Agent成为”嵌入精密轨道里的决策引擎”。
尽管范式不同,两者在底层逻辑上有明显共性:
也就是说,方案B并不是抛弃模型,而是在方案A的基础上做职责切分。理解这一点,是做好选型的前提。
方案A是”单点承载”结构:所有确定性与不确定性逻辑都压在一份指令文档里,模型是唯一执行主体。方案B是”分层解耦”结构:确定性逻辑被抽离到模型之外的程序中,模型只输出结构化参数,程序负责校验、编排与执行。前者的系统边界模糊,后者的边界清晰、职责单一。
方案A受注意力机制影响显著:指令越长,关键约束越容易被”稀释”,模型在长上下文中难以稳定命中每一条规则。方案B把流程固化为代码,确定性部分不再依赖模型的注意力分配,天然更稳定。这就是为什么”规则写到两百行,模型反而开始叛逆”——不是模型变笨,而是结构让约束失效。
方案A在模糊需求下容易反复揣摩、多轮试探,走一半发现方向不对再重来,每一步都在烧Token。一个本可一轮完成的操作,可能因为路径不确定而跑很多轮。方案B把路径”铺好”,模型只需在既定轨道上输出参数,试错轮次显著减少,长上下文重复注入的成本也随之下降。
方案A的执行轨迹藏在模型的一次次推理里,出错后难以定位是”理解错了”还是”步骤错了”,重试往往是从头再来。方案B因流程被代码固定、状态被外部管理,天然支持断点续跑、失败重试和逐步审计——每一步的输入、输出、状态都可记录、可回放、可核对,这正是工程化组件最看重的属性。
方案A上手极快,改提示词即可调整行为,适合早期验证;但代价是可维护性随规则增长急剧下降。方案B前期需要额外设计执行环境、参数协议与状态管理,接入改造量更大,但一次投入换来长期的确定性和可控性。
方案B将API调用、数据格式、权限流程等交给确定性程序,便于统一做身份认证、权限控制、参数校验与审计加密;方案A的这些约束只能靠模型”自觉遵守”,难以强制。方案B更适合生产环境,方案A则更适合探索期。
| 对比维度 | 方案A:提示词驱动 | 方案B:执行环境驱动 |
|---|---|---|
| 职责边界 | 模糊,模型全包 | 清晰,模型只管理解与判断 |
| 执行稳定性 | 受长上下文/注意力影响大 | 确定性逻辑固化,稳定性高 |
| Token成本 | 试错轮次多,开销高 | 路径固定,试错少 |
| 可恢复性 | 弱,重试多从头开始 | 强,支持断点续跑 |
| 可审计性 | 弱,推理轨迹难追踪 | 强,逐步可回放核对 |
| 接入难度 | 低,改提示词即可 | 较高,需设计执行环境与协议 |
| 安全可控 | 靠模型自觉,难强制 | 程序层强制校验,可控 |
| 适用阶段 | 原型验证、demo | 生产系统、企业级应用 |
选型不应做绝对化判断,而应条件化评估:
从方案A迁移到方案B不是简单改写提示词,需重点关注:
提示词驱动与执行环境驱动的本质差异,在于确定性逻辑放在哪里。方案A把一切交给概率模型自行处理,上手快、灵活,但稳定性、成本与可审计性随规模恶化;方案B把确定性事务交给模型触碰不到的程序,前期投入大,却换来精确、可恢复、可审计的工程化能力。
真正的工程化思路不是”责怪模型不够强”,而是”思考执行环境还缺了什么”——不改变河的本性,而是给它修好渠。让模型专注理解与判断,让轨道接管流程与格式,二者结合,才是从”不可控的对话机器人”走向”可预期的工程化组件”的关键路径。