AI Agent交互协议对比与执行权限边界

作者:新兰2026.11.16 10:25浏览量:0

简介:本文聚焦 Agent 在对话中生成卡片、表单和确认按钮的场景,对比声明式 JSON 协议与自由生成内容的关键差异。通过白名单渲染、事件采集、权限执行器、输入净化与审计设计,帮助读者明确展示、确认、执行三类权限边界,并提供组件白名单与意图映射模板,降低点击即执行、越权调用等常见风险。

场景概述

当 AI Agent 不再只是输出文字,而是能够在对话中给出可点击的卡片、可填写的表单、带确认按钮的操作面板时,真正需要优先设计的并不是界面美观度,而是权限边界。

这类能力通常被称为“会话式 Agent 交互界面”:模型负责理解用户意图并生成结构化界面,宿主应用负责渲染界面、接收用户操作,并最终决定是否调用外部工具。看似是“界面生成”,实际上涉及三层完全不同的能力:

  • 展示层:Agent 告诉宿主“应该显示什么”;
  • 交互层:用户点击、输入、提交后产生事件;
  • 执行层:系统是否允许调用真实工具,例如发送邮件、删除文件、创建订单、部署服务。

很多安全问题的根源,不是模型生成了按钮,而是系统把“生成按钮”“用户点击”“工具执行”混为一谈。本文不依赖运行时实验结论,而是从协议形态和权限设计原理出发,对比两类常见实现路线,并给出可落地的权限控制方式。

核心原则:展示、确认、执行必须分权

在 Agent 生成交互界面的场景中,必须明确区分三件事:

  1. 界面生成:Agent 描述界面结构,例如卡片、字段、按钮、提示文案。
  2. 点击确认:用户在界面中点击按钮,产生一个交互事件,表达“我同意”或“我选择”。
  3. 工具授权:系统根据权限策略,判断该意图是否允许调用某个外部工具。

用户点击按钮本身并不等于系统获得了执行权限。点击只是用户意图的表达,真正能否执行,仍必须由可信执行器判断。

一个合理的设计应该是:

用户点击 → 产生交互事件 → 宿主校验组件合法性 → 权限执行器判断意图是否授权 → 可信执行器决定是否调用工具 → 记录审计日志。

如果宿主应用直接把 Agent 生成的按钮映射成工具调用,或者把模型输出的内容直接当作可执行代码,那么界面生成能力就会变成越权入口。

两类协议的数据形态对比

在 Agent 交互界面协议中,常见的路线可以归纳为两类:声明式结构化协议和自由生成型内容协议。它们并不是简单的“安全”与“不安全”之分,而是灵活度、实现成本和防护责任的不同组合。

声明式结构化协议

声明式协议的典型特点是:Agent 输出结构化数据,例如 JSON,用来描述界面组件和交互意图。宿主应用只渲染自己认识的组件,不把模型输出当成可执行代码。

例如,Agent 可能输出如下声明式界面:

  1. {
  2. "schema": "agent.ui.form@1",
  3. "component": "leave_form",
  4. "title": "请假申请",
  5. "fields": [
  6. {
  7. "id": "days",
  8. "type": "number",
  9. "min": 1,
  10. "max": 30
  11. },
  12. {
  13. "id": "reason",
  14. "type": "text",
  15. "maxLength": 200
  16. }
  17. ],
  18. "actions": [
  19. {
  20. "label": "提交申请",
  21. "intent": "leave.apply"
  22. }
  23. ]
  24. }

在这个例子中,宿主应用识别的是 component、fields、actions 这些受控字段。它不会执行模型生成的脚本,也不会把未知字段直接当作可执行能力。渲染逻辑由宿主应用控制,模型只负责表达意图。

声明式协议的优势是边界清晰:组件白名单、字段校验、意图映射、权限策略都可以在宿主侧统一实现。它的不足是灵活度受限于已经注册好的组件。如果产品需要非常复杂的动态界面,声明式协议可能需要不断扩展组件库。

自由生成型内容协议

自由生成型方案则允许 Agent 输出更接近最终渲染结果的内容,例如 HTML 片段、富文本、DSL,甚至包含样式和交互属性的片段。

例如,模型可能输出:

  1. {
  2. "schema": "agent.ui.html-fragment@1",
  3. "html": "<button data-intent=\"file.delete\" class=\"danger\">删除文件</button>"
  4. }

看起来只是一个按钮,但如果模型输出包含内联脚本,风险就会明显上升:

  1. {
  2. "schema": "agent.ui.html-fragment@1",
  3. "html": "<button onclick=\"sendToServer()\">确认删除</button>"
  4. }

宿主如果直接将这段内容插入页面,或者允许脚本执行,就可能把模型输出变成攻击面。因此,自由生成方案通常必须配合更严格的净化机制,例如:

  • 禁止 <script>、onclick、onerror 等执行入口;
  • 只允许白名单标签和属性;
  • 不直接执行模型输出的 URL、命令或函数;
  • 将按钮映射为宿主定义的事件,而不是原始 DOM 事件;
  • 对所有自由生成内容进行 HTML 净化或沙箱渲染。

两类路线对比

维度 声明式结构化协议 自由生成型内容协议
Agent 产出 结构化 JSON 描述 HTML、富文本或自定义 DSL
渲染责任 宿主应用按白名单渲染 内容自身携带更多渲染信息
灵活度 受限于已注册组件 更高,可覆盖复杂界面
主要风险 组件被滥用、意图被越权映射 内容注入、脚本执行、参数污染
校验重点 组件白名单、字段约束、意图映射 内容净化、标签过滤、事件代理
安全成本 相对可控 通常需要更高防护成本

结论并不是“声明式一定安全”或“自由生成一定危险”。真正的差异在于:灵活度越高,宿主应用承担的校验与权限责任越重。

常见错误

在 Agent 交互界面场景中,以下几类错误尤其常见:

  1. 把点击当作授权
    用户点击“删除”按钮,并不自动代表系统有权限删除文件。点击只是交互事件,权限仍由执行器判断。

  2. 把 Agent 自述内容当作可信参数
    Agent 可以在界面中写“用户已确认”,但这不能替代真实用户操作、签名、令牌或权限校验。

  3. 渲染前不校验组件
    如果宿主应用直接渲染 Agent 给出的任意组件,攻击面会扩大。所有组件都应来自注册表或白名单。

  4. 把自由生成内容直接插入页面
    HTML 片段、富文本、Markdown 渲染结果都可能携带脚本或危险属性,必须经过净化。

  5. 没有独立的权限执行层
    如果界面层和工具调用层耦合在一起,界面生成能力就可能间接获得外部执行能力。

能力需求

要构建可控的 Agent 交互界面系统,至少需要以下能力:

  1. 结构化描述能力
    Agent 需要以稳定、可解析的格式表达界面意图,而不是依赖模糊自然语言。

  2. 可信组件注册与白名单
    宿主应用维护自己的组件清单,只有被批准的组件才能被渲染。

  3. 事件采集与转发
    系统需要捕获用户点击、输入、提交等行为,并转换为标准交互事件。

  4. 权限策略与执行器
    独立判断某个意图是否允许调用某个工具,由谁调用,在什么条件下调用。

  5. 输入校验与净化
    对用户输入、Agent 描述参数、自由生成内容进行合法性检查。

  6. 审计与追踪
    记录谁在什么时间、什么界面、触发了什么意图、是否被允许执行,便于复盘和合规。

典型流程

一个可落地的实现流程通常如下:

  1. 约定输出契约
    明确 Agent 使用声明式 JSON,还是自由生成 HTML 片段,并定义消息格式。

  2. 注册可信组件
    在宿主应用中登记可用组件,例如 action_card、form、approval_panel,并定义允许字段。

  3. 渲染界面
    宿主应用只渲染白名单组件,忽略未知组件或拒绝整次渲染。

  4. 采集用户事件
    用户点击按钮后,不直接执行工具,而是生成结构化事件,例如:

  1. {
  2. "component_id": "leave_form",
  3. "action": "submit",
  4. "intent": "leave.apply",
  5. "payload": {
  6. "days": 3,
  7. "reason": "个人事务"
  8. }
  9. }
  1. 校验与鉴权
    先校验组件是否合法,再判断意图是否映射到允许的工具,最后判断当前用户是否有权限。

  2. 执行与审计
    只有权限执行器允许时,可信执行器才调用工具,并记录完整日志。

关键模块

组件注册表

组件注册表是声明式协议的核心防线。它决定哪些组件可以被渲染、哪些字段可以被接受、哪些动作可以被绑定。

事件层

事件层负责把用户操作转换为标准事件。它不应直接把按钮点击映射成工具调用,而应生成可被权限层审查的意图。

权限执行器

权限执行器独立于界面渲染逻辑。它判断“这个用户是否可以在当前场景下触发这个工具”。这是唯一有权决定是否调用外部工具的模块。

校验层

校验层负责清洗参数、校验类型、范围、长度、枚举值,防止错误输入或恶意输入进入执行流程。

审计日志

审计日志记录完整链路,包括组件 ID、用户、意图、工具、参数摘要、执行结果和拒绝原因。

一段简化的权限校验伪代码如下:

  1. def on_user_click(event):
  2. # 1. 组件是否在白名单内
  3. if not registry.is_approved(event.component_id):
  4. return reject(event)
  5. # 2. 意图是否映射到被授权的工具
  6. tool = policy.resolve(event.intent)
  7. if not tool:
  8. return deny(event)
  9. # 3. 当前用户是否有权限调用该工具
  10. if not authorizer.can(tool, event.user):
  11. return deny(event)
  12. # 4. 参数经过净化后,由可信执行器执行
  13. return executor.run(tool, sanitize(event.payload))

这里的接口职责需要明确:

  • registry:组件注册表,由宿主应用维护;
  • policy:意图到工具的映射策略;
  • authorizer:用户或角色权限判断;
  • executor:可信执行器,负责最终工具调用;
  • sanitize:输入净化函数;
  • reject:通常用于组件非法、格式错误或事件不可信;
  • deny:通常用于鉴权失败、权限不足或策略拒绝。

可复用配置模板

为了降低落地难度,可以将组件白名单和意图映射外置为配置。例如:

  1. components:
  2. - id: leave_form
  3. type: form
  4. allowed_fields:
  5. - days
  6. - reason
  7. allowed_actions:
  8. - submit
  9. intents:
  10. - intent: leave.apply
  11. tool: hr.leave.create
  12. risk: normal
  13. confirmation: false
  14. - intent: file.delete
  15. tool: file.delete
  16. risk: high
  17. confirmation: true
  18. - intent: deploy.approve
  19. tool: deploy.approve
  20. risk: high
  21. confirmation: true

这样配置的好处是:组件、意图、工具、风险等级和确认策略都可以审计。安全团队可以检查哪些界面动作绑定了哪些工具,研发团队也可以在新增功能时避免硬编码权限。

不可逆操作的二次确认示例

对于删除、部署、支付、发布等不可逆或高风险操作,即使按钮已经渲染,也不能一次点击直接执行。系统应要求二次确认。

例如,可以要求权限层返回待确认状态:

  1. if tool.risk == "high":
  2. return pending_confirmation(
  3. tool=tool.name,
  4. payload=sanitize(event.payload),
  5. confirmation_id=create_confirmation_token(event.user, tool.name)
  6. )

用户再次点击确认后,系统仍需要重新校验:

  1. def on_confirm_click(event):
  2. if not confirmation.is_valid(event.confirmation_id):
  3. return deny(event)
  4. tool = policy.resolve(event.intent)
  5. if not authorizer.can(tool, event.user):
  6. return deny(event)
  7. return executor.run(tool, sanitize(event.payload))

这里的关键不是“多一个按钮”,而是确认动作本身也必须经过权限和有效性校验。

落地要点

  1. 权限最小化
    任何组件、按钮、意图都不应默认拥有执行权限。只有被明确授权的动作才能进入执行阶段。

  2. 人机确认分离
    高风险操作必须设置人工二次确认,不能依赖模型自述、界面文案或单次点击。

  3. 输入净化
    对用户输入保持校验,对 Agent 描述中的参数同样保持怀疑。模型输出不是可信来源。

  4. 配置外置
    组件白名单、意图映射、风险等级、确认策略应尽可能配置化,便于审计和调整。

  5. 生产环境验收
    协议解析、组件渲染、事件采集可以通过设计评审和测试覆盖,但高并发、多租户隔离、复杂权限矩阵、真实工具调用失败重试等问题,仍需在真实生产环境中持续验收。

总结:一张决策清单

  • 如果界面形态稳定、安全要求高,优先选择声明式结构化协议。
  • 如果需要更高灵活度,可以采用自由生成内容,但必须配套净化、沙箱和白名单事件映射。
  • 用户点击不是授权,界面生成不是执行,Agent 自述不能替代权限校验。
  • 所有工具调用必须经过独立权限执行器,并保留审计日志。
  • 删除、部署、支付等高风险动作必须支持二次确认与撤销/拒绝路径。

Agent 交互界面的价值在于让用户更自然地完成操作,但它的可信度不取决于界面是否炫酷,而取决于展示、确认、执行三层权限是否被清晰隔离。