简介:本文面向正在构建或评估AI Agent系统的开发者与架构者,系统拆解模型、Scaffolding(脚手架)、Harness(执行层)、上下文工程、工具调用、训练侧环境等易混淆概念。通过场景化分析帮助读者厘清Agent的组成结构,理解各层职责边界,掌握技术选型与落地时的关键考量点。
随着大语言模型从“一问一答”走向“自主完成任务”,越来越多的团队开始构建自己的AI Agent系统:自动化运维助手、代码研发助理、企业知识问答机器人、数据分析智能体等。但在实际选型和架构设计时,开发者常常会遇到同一个困惑:讨论里到处都是Harness、Scaffold、Agent、Context Engineering、Policy、Sub-agent这些术语,而且不同文章、不同团队给出的定义互相矛盾。有人把模型之外的一切统称为Harness,有人把系统提示词也叫Harness,还有人用“脚手架”泛指所有基础设施。
这种术语混乱在真实工程中会产生实际代价:技术方案评审时双方各说各话,架构文档里层次划分不清,训练与推理团队对“哪一层负责什么”产生分歧。本文就以“构建一个可控、可维护的AI Agent系统”为场景,把这些概念一次性理清楚。
在Agent开发实践中,术语不清通常带来三类问题:
1. 架构分层模糊,职责边界不清。 一个Agent系统里既有模型推理调用,又有提示词组织、工具注册、输出解析、状态管理、循环控制。如果团队没有统一的概念框架,很容易把提示词逻辑、工具调用逻辑、任务编排逻辑写在一处,导致后期难以测试、难以替换模型、难以复用。
2. 选型讨论无法对齐。 有些Agent产品与特定模型深度绑定,有些则支持任意模型接入。讨论“绑定紧好还是松耦合好”时,如果分不清脚手架与执行层,就无法判断耦合到底发生在哪一层,也就评估不了替换模型或迁移框架的成本。
3. 训练与推理侧概念割裂。 做过强化学习训练的团队还会接触RL Environment、Trainer、Rollout、Reward等概念,这些与推理侧的Harness、脚手架有对应关系,但很多团队不清楚两者如何映射,导致训练出来的模型在真实运行环境中表现不一致。
理解Agent架构的关键公式是:Agent = Model + Harness。下面逐层拆解。
模型就是大语言模型本身,输入文本、输出文本。模型有三个关键特性需要注意:
因此,单独的模型只能做一问一答。把模型包装上脚手架和执行层,它才成为一个真正的Agent。
脚手架是围绕模型的行为定义,决定了模型“如何看待世界、如何行动”。典型内容包括:
脚手架在训练和推理两个阶段都起作用:推理时它是一套行为规则;训练时,环境中的提示词与工具定义同样构成模型的“世界观”。一个值得注意的经验是:同一个模型换一套脚手架,表现可能判若两人。这意味着脚手架的质量往往和模型能力同样重要。
执行层是Agent内部的运行时引擎,其职责包括:
一个直观的比喻:脚手架是剧本和道具,执行层是导演和舞台监督——剧本规定了角色怎么演,导演负责把整场戏串起来真正演出来。
需要说明的是,业界对这两个词的使用并不统一。不少产品把脚手架和执行层混在一起统称Harness,即“模型之外的所有东西”;也有人把脚手架用得更宽泛,涵盖运行时配置、钩子甚至项目目录结构。严格区分脚手架与执行层,主要在训练流水线中需要单独分析两者时才显得关键——例如你要单独优化环境定义,或者单独改造执行循环时。
在这个框架下,还有几个高频术语可以顺势理清:
如果团队涉及模型微调或强化学习,还会遇到一组训练侧术语,它们与推理侧概念有清晰的映射:
理解这组映射很重要:训练环境和线上运行环境的脚手架如果不一致,模型学到的行为模式在线上可能失效。工程上应尽量保证两边的行为定义对齐。
在构建Agent系统时,围绕上述概念可以形成一套清晰的架构思路:
分层设计:将系统明确拆为“模型层—行为定义层—执行层—工具层”。提示词、工具描述集中管理;执行循环独立成模块;工具以标准接口注册。这样做的直接收益是:更换模型时只需调整行为定义中模型相关的部分;修改任务逻辑时不必动执行引擎。
耦合度的权衡:有些Agent产品与自家模型绑定紧密,可以做深度协同优化;有些则支持任意模型接入,给用户选择权。团队自建时同样面临这个权衡——绑定紧密便于调优提示词与模型行为的配合,松耦合则降低供应商依赖风险。建议根据团队是否拥有模型训练能力、对模型迁移频率的预期来决策。
示意性的执行循环(通用伪代码):
context = build_system_prompt(scaffold) # 脚手架:行为定义while not task_done and steps < MAX_STEPS: # 执行层:循环控制output = model(context) # 模型:生成动作意图action = parse(output) # 脚手架:输出解析if action.type == "tool_call":result = execute_tool(action) # 执行层:真正执行context = update_context(context, result) # 上下文工程elif action.type == "finish":task_done = True
1. 行为定义与执行逻辑分离。 把提示词、工具描述做成可配置、可版本管理的资产,便于A/B测试和回滚;执行循环保持稳定,避免把任务逻辑硬编码进引擎。
2. 上下文管理要主动设计。 长任务会带来上下文膨胀,需提前规划历史裁剪与摘要策略,否则会出现成本上升和效果下降的双重问题。
3. 高危操作加策略约束。 涉及文件写入、系统命令、资金操作等动作时,应在执行层设置确认机制与权限白名单,不能只依赖提示词约束。
4. 训练与推理环境对齐。 若涉及强化学习,环境中的工具定义、提示词格式应与线上运行时保持一致,避免行为漂移。
5. 可观测性。 为每一步推理、每次工具调用建立日志与追踪,这是调试Agent行为、评估脚手架改动效果的基础。
Agent = Model + Harness,而Harness内部的“脚手架(行为定义)”与“执行引擎”之分,是理解整个Agent架构的关键:脚手架决定模型怎么看世界、怎么行动,执行层决定系统怎么真正跑起来、何时停下。把这个分层框架建立起来之后,工具调用、技能、子智能体、上下文工程、强化学习环境等概念都能找到各自的位置,术语混乱自然消解。对于准备落地Agent系统的团队,建议先做分层架构设计与概念对齐,再逐步补齐上下文管理、策略约束与可观测性,这样无论后续选择哪种模型或框架,系统都具备良好的可维护性与演进空间。