一次理清AI Agent核心术语:模型、脚手架与执行层

作者:沙与沫2026.11.16 10:24浏览量:0

简介:本文面向正在构建或评估AI Agent系统的开发者与架构者,系统拆解模型、Scaffolding(脚手架)、Harness(执行层)、上下文工程、工具调用、训练侧环境等易混淆概念。通过场景化分析帮助读者厘清Agent的组成结构,理解各层职责边界,掌握技术选型与落地时的关键考量点。

一、场景概述:为什么这些术语值得认真梳理

随着大语言模型从“一问一答”走向“自主完成任务”,越来越多的团队开始构建自己的AI Agent系统:自动化运维助手、代码研发助理、企业知识问答机器人、数据分析智能体等。但在实际选型和架构设计时,开发者常常会遇到同一个困惑:讨论里到处都是Harness、Scaffold、Agent、Context Engineering、Policy、Sub-agent这些术语,而且不同文章、不同团队给出的定义互相矛盾。有人把模型之外的一切统称为Harness,有人把系统提示词也叫Harness,还有人用“脚手架”泛指所有基础设施。

这种术语混乱在真实工程中会产生实际代价:技术方案评审时双方各说各话,架构文档里层次划分不清,训练与推理团队对“哪一层负责什么”产生分歧。本文就以“构建一个可控、可维护的AI Agent系统”为场景,把这些概念一次性理清楚。

二、场景痛点:术语混乱背后的工程问题

在Agent开发实践中,术语不清通常带来三类问题:

1. 架构分层模糊,职责边界不清。 一个Agent系统里既有模型推理调用,又有提示词组织、工具注册、输出解析、状态管理、循环控制。如果团队没有统一的概念框架,很容易把提示词逻辑、工具调用逻辑、任务编排逻辑写在一处,导致后期难以测试、难以替换模型、难以复用。

2. 选型讨论无法对齐。 有些Agent产品与特定模型深度绑定,有些则支持任意模型接入。讨论“绑定紧好还是松耦合好”时,如果分不清脚手架与执行层,就无法判断耦合到底发生在哪一层,也就评估不了替换模型或迁移框架的成本。

3. 训练与推理侧概念割裂。 做过强化学习训练的团队还会接触RL Environment、Trainer、Rollout、Reward等概念,这些与推理侧的Harness、脚手架有对应关系,但很多团队不清楚两者如何映射,导致训练出来的模型在真实运行环境中表现不一致。

三、核心概念拆解:模型、脚手架与执行层

理解Agent架构的关键公式是:Agent = Model + Harness。下面逐层拆解。

1. Model(模型):系统的“大脑”

模型就是大语言模型本身,输入文本、输出文本。模型有三个关键特性需要注意:

  • 无状态:模型自身没有跨调用的记忆,每次调用都是独立的。所谓“对话历史”,实际上是调用方把历史内容重新拼进输入里传给模型。
  • 无循环:模型输出一次就停止,它不具备“多步执行直到任务完成”的能力。
  • 只有意图,没有行动:模型可以在文本中表达“我需要调用某个工具”,但真正执行工具调用、把结果喂回模型、决定下一步做什么,都需要外部程序驱动。

因此,单独的模型只能做一问一答。把模型包装上脚手架和执行层,它才成为一个真正的Agent。

2. Scaffolding(脚手架):行为定义层

脚手架是围绕模型的行为定义,决定了模型“如何看待世界、如何行动”。典型内容包括:

  • 系统提示词:任务目标、角色设定、行为约束;
  • 工具描述:有哪些工具可用、参数格式是什么、什么时候该用;
  • 输出格式约定:模型输出如何被解析成结构化的动作指令;
  • 上下文组织策略:跨步骤要记住什么、丢弃什么、如何压缩历史。

脚手架在训练和推理两个阶段都起作用:推理时它是一套行为规则;训练时,环境中的提示词与工具定义同样构成模型的“世界观”。一个值得注意的经验是:同一个模型换一套脚手架,表现可能判若两人。这意味着脚手架的质量往往和模型能力同样重要。

3. Harness(执行层/缰绳):让系统跑起来的引擎

执行层是Agent内部的运行时引擎,其职责包括:

  • 调用模型(发起推理请求);
  • 解析模型输出的工具调用意图,并真正执行工具;
  • 把工具执行结果组织回上下文,再次调用模型,形成循环;
  • 判断任务何时完成、何时需要中断(例如达到步数上限、触发终止条件);
  • 管理运行时的钩子、权限控制、异常处理。

一个直观的比喻:脚手架是剧本和道具,执行层是导演和舞台监督——剧本规定了角色怎么演,导演负责把整场戏串起来真正演出来。

需要说明的是,业界对这两个词的使用并不统一。不少产品把脚手架和执行层混在一起统称Harness,即“模型之外的所有东西”;也有人把脚手架用得更宽泛,涵盖运行时配置、钩子甚至项目目录结构。严格区分脚手架与执行层,主要在训练流水线中需要单独分析两者时才显得关键——例如你要单独优化环境定义,或者单独改造执行循环时。

4. 外延概念:工具、技能与子智能体

在这个框架下,还有几个高频术语可以顺势理清:

  • Tool Use(工具调用):模型表达调用意图、执行层负责实际执行外部函数的机制,是Agent与真实世界交互的通道。
  • Skills(技能):预先封装好的任务级能力包,通常包含完成某类任务的提示词模板、工具组合和流程约定,让Agent按需加载。
  • Sub-agent(子智能体):由主Agent派生的独立执行单元,拥有自己的上下文,完成子任务后把结果返回主Agent,常用于隔离上下文、并行处理。
  • Context Engineering(上下文工程):决定每一步推理时“模型能看到什么”的工程实践,包括历史裁剪、摘要压缩、关键信息注入等,是影响Agent效果的核心因素之一。
  • Policy(策略):约束Agent行为的规则集,例如何时允许执行高危操作、何时需要人工确认。

四、训练侧概念与推理侧的对应关系

如果团队涉及模型微调或强化学习,还会遇到一组训练侧术语,它们与推理侧概念有清晰的映射:

  • RL Environment(强化学习环境):对应推理时的脚手架加执行环境。模型在环境中执行多步动作、观察反馈。环境定义的质量直接决定训练出的行为是否泛化到真实场景。
  • Rollout(轨迹采样):模型在环境中完整跑一遍任务的过程,相当于Agent的一次完整执行循环。
  • Trainer(训练器):负责根据Reward信号更新模型参数的核心模块。
  • Reward(奖励):对Rollout结果的评价信号,指引模型学习方向。

理解这组映射很重要:训练环境和线上运行环境的脚手架如果不一致,模型学到的行为模式在线上可能失效。工程上应尽量保证两边的行为定义对齐。

五、方案思路与选型考量

在构建Agent系统时,围绕上述概念可以形成一套清晰的架构思路:

分层设计:将系统明确拆为“模型层—行为定义层—执行层—工具层”。提示词、工具描述集中管理;执行循环独立成模块;工具以标准接口注册。这样做的直接收益是:更换模型时只需调整行为定义中模型相关的部分;修改任务逻辑时不必动执行引擎。

耦合度的权衡:有些Agent产品与自家模型绑定紧密,可以做深度协同优化;有些则支持任意模型接入,给用户选择权。团队自建时同样面临这个权衡——绑定紧密便于调优提示词与模型行为的配合,松耦合则降低供应商依赖风险。建议根据团队是否拥有模型训练能力、对模型迁移频率的预期来决策。

示意性的执行循环(通用伪代码):

  1. context = build_system_prompt(scaffold) # 脚手架:行为定义
  2. while not task_done and steps < MAX_STEPS: # 执行层:循环控制
  3. output = model(context) # 模型:生成动作意图
  4. action = parse(output) # 脚手架:输出解析
  5. if action.type == "tool_call":
  6. result = execute_tool(action) # 执行层:真正执行
  7. context = update_context(context, result) # 上下文工程
  8. elif action.type == "finish":
  9. task_done = True

六、落地要点

1. 行为定义与执行逻辑分离。 把提示词、工具描述做成可配置、可版本管理的资产,便于A/B测试和回滚;执行循环保持稳定,避免把任务逻辑硬编码进引擎。

2. 上下文管理要主动设计。 长任务会带来上下文膨胀,需提前规划历史裁剪与摘要策略,否则会出现成本上升和效果下降的双重问题。

3. 高危操作加策略约束。 涉及文件写入、系统命令、资金操作等动作时,应在执行层设置确认机制与权限白名单,不能只依赖提示词约束。

4. 训练与推理环境对齐。 若涉及强化学习,环境中的工具定义、提示词格式应与线上运行时保持一致,避免行为漂移。

5. 可观测性。 为每一步推理、每次工具调用建立日志与追踪,这是调试Agent行为、评估脚手架改动效果的基础。

七、总结

Agent = Model + Harness,而Harness内部的“脚手架(行为定义)”与“执行引擎”之分,是理解整个Agent架构的关键:脚手架决定模型怎么看世界、怎么行动,执行层决定系统怎么真正跑起来、何时停下。把这个分层框架建立起来之后,工具调用、技能、子智能体、上下文工程、强化学习环境等概念都能找到各自的位置,术语混乱自然消解。对于准备落地Agent系统的团队,建议先做分层架构设计与概念对齐,再逐步补齐上下文管理、策略约束与可观测性,这样无论后续选择哪种模型或框架,系统都具备良好的可维护性与演进空间。