简介:本文聚焦 Agent 在对话中生成卡片、表单和确认按钮的场景,对比声明式 JSON 协议与自由生成内容的关键差异。通过白名单渲染、事件采集、权限执行器、输入净化与审计设计,帮助读者明确展示、确认、执行三类权限边界,并提供组件白名单与意图映射模板,降低点击即执行、越权调用等常见风险。
当 AI Agent 不再只是输出文字,而是能够在对话中给出可点击的卡片、可填写的表单、带确认按钮的操作面板时,真正需要优先设计的并不是界面美观度,而是权限边界。
这类能力通常被称为“会话式 Agent 交互界面”:模型负责理解用户意图并生成结构化界面,宿主应用负责渲染界面、接收用户操作,并最终决定是否调用外部工具。看似是“界面生成”,实际上涉及三层完全不同的能力:
很多安全问题的根源,不是模型生成了按钮,而是系统把“生成按钮”“用户点击”“工具执行”混为一谈。本文不依赖运行时实验结论,而是从协议形态和权限设计原理出发,对比两类常见实现路线,并给出可落地的权限控制方式。
在 Agent 生成交互界面的场景中,必须明确区分三件事:
用户点击按钮本身并不等于系统获得了执行权限。点击只是用户意图的表达,真正能否执行,仍必须由可信执行器判断。
一个合理的设计应该是:
用户点击 → 产生交互事件 → 宿主校验组件合法性 → 权限执行器判断意图是否授权 → 可信执行器决定是否调用工具 → 记录审计日志。
如果宿主应用直接把 Agent 生成的按钮映射成工具调用,或者把模型输出的内容直接当作可执行代码,那么界面生成能力就会变成越权入口。
在 Agent 交互界面协议中,常见的路线可以归纳为两类:声明式结构化协议和自由生成型内容协议。它们并不是简单的“安全”与“不安全”之分,而是灵活度、实现成本和防护责任的不同组合。
声明式协议的典型特点是:Agent 输出结构化数据,例如 JSON,用来描述界面组件和交互意图。宿主应用只渲染自己认识的组件,不把模型输出当成可执行代码。
例如,Agent 可能输出如下声明式界面:
{"schema": "agent.ui.form@1","component": "leave_form","title": "请假申请","fields": [{"id": "days","type": "number","min": 1,"max": 30},{"id": "reason","type": "text","maxLength": 200}],"actions": [{"label": "提交申请","intent": "leave.apply"}]}
在这个例子中,宿主应用识别的是 component、fields、actions 这些受控字段。它不会执行模型生成的脚本,也不会把未知字段直接当作可执行能力。渲染逻辑由宿主应用控制,模型只负责表达意图。
声明式协议的优势是边界清晰:组件白名单、字段校验、意图映射、权限策略都可以在宿主侧统一实现。它的不足是灵活度受限于已经注册好的组件。如果产品需要非常复杂的动态界面,声明式协议可能需要不断扩展组件库。
自由生成型方案则允许 Agent 输出更接近最终渲染结果的内容,例如 HTML 片段、富文本、DSL,甚至包含样式和交互属性的片段。
例如,模型可能输出:
{"schema": "agent.ui.html-fragment@1","html": "<button data-intent=\"file.delete\" class=\"danger\">删除文件</button>"}
看起来只是一个按钮,但如果模型输出包含内联脚本,风险就会明显上升:
{"schema": "agent.ui.html-fragment@1","html": "<button onclick=\"sendToServer()\">确认删除</button>"}
宿主如果直接将这段内容插入页面,或者允许脚本执行,就可能把模型输出变成攻击面。因此,自由生成方案通常必须配合更严格的净化机制,例如:
<script>、onclick、onerror 等执行入口;| 维度 | 声明式结构化协议 | 自由生成型内容协议 |
|---|---|---|
| Agent 产出 | 结构化 JSON 描述 | HTML、富文本或自定义 DSL |
| 渲染责任 | 宿主应用按白名单渲染 | 内容自身携带更多渲染信息 |
| 灵活度 | 受限于已注册组件 | 更高,可覆盖复杂界面 |
| 主要风险 | 组件被滥用、意图被越权映射 | 内容注入、脚本执行、参数污染 |
| 校验重点 | 组件白名单、字段约束、意图映射 | 内容净化、标签过滤、事件代理 |
| 安全成本 | 相对可控 | 通常需要更高防护成本 |
结论并不是“声明式一定安全”或“自由生成一定危险”。真正的差异在于:灵活度越高,宿主应用承担的校验与权限责任越重。
在 Agent 交互界面场景中,以下几类错误尤其常见:
把点击当作授权
用户点击“删除”按钮,并不自动代表系统有权限删除文件。点击只是交互事件,权限仍由执行器判断。
把 Agent 自述内容当作可信参数
Agent 可以在界面中写“用户已确认”,但这不能替代真实用户操作、签名、令牌或权限校验。
渲染前不校验组件
如果宿主应用直接渲染 Agent 给出的任意组件,攻击面会扩大。所有组件都应来自注册表或白名单。
把自由生成内容直接插入页面
HTML 片段、富文本、Markdown 渲染结果都可能携带脚本或危险属性,必须经过净化。
没有独立的权限执行层
如果界面层和工具调用层耦合在一起,界面生成能力就可能间接获得外部执行能力。
要构建可控的 Agent 交互界面系统,至少需要以下能力:
结构化描述能力
Agent 需要以稳定、可解析的格式表达界面意图,而不是依赖模糊自然语言。
可信组件注册与白名单
宿主应用维护自己的组件清单,只有被批准的组件才能被渲染。
事件采集与转发
系统需要捕获用户点击、输入、提交等行为,并转换为标准交互事件。
权限策略与执行器
独立判断某个意图是否允许调用某个工具,由谁调用,在什么条件下调用。
输入校验与净化
对用户输入、Agent 描述参数、自由生成内容进行合法性检查。
审计与追踪
记录谁在什么时间、什么界面、触发了什么意图、是否被允许执行,便于复盘和合规。
一个可落地的实现流程通常如下:
约定输出契约
明确 Agent 使用声明式 JSON,还是自由生成 HTML 片段,并定义消息格式。
注册可信组件
在宿主应用中登记可用组件,例如 action_card、form、approval_panel,并定义允许字段。
渲染界面
宿主应用只渲染白名单组件,忽略未知组件或拒绝整次渲染。
采集用户事件
用户点击按钮后,不直接执行工具,而是生成结构化事件,例如:
{"component_id": "leave_form","action": "submit","intent": "leave.apply","payload": {"days": 3,"reason": "个人事务"}}
校验与鉴权
先校验组件是否合法,再判断意图是否映射到允许的工具,最后判断当前用户是否有权限。
执行与审计
只有权限执行器允许时,可信执行器才调用工具,并记录完整日志。
组件注册表是声明式协议的核心防线。它决定哪些组件可以被渲染、哪些字段可以被接受、哪些动作可以被绑定。
事件层负责把用户操作转换为标准事件。它不应直接把按钮点击映射成工具调用,而应生成可被权限层审查的意图。
权限执行器独立于界面渲染逻辑。它判断“这个用户是否可以在当前场景下触发这个工具”。这是唯一有权决定是否调用外部工具的模块。
校验层负责清洗参数、校验类型、范围、长度、枚举值,防止错误输入或恶意输入进入执行流程。
审计日志记录完整链路,包括组件 ID、用户、意图、工具、参数摘要、执行结果和拒绝原因。
一段简化的权限校验伪代码如下:
def on_user_click(event):# 1. 组件是否在白名单内if not registry.is_approved(event.component_id):return reject(event)# 2. 意图是否映射到被授权的工具tool = policy.resolve(event.intent)if not tool:return deny(event)# 3. 当前用户是否有权限调用该工具if not authorizer.can(tool, event.user):return deny(event)# 4. 参数经过净化后,由可信执行器执行return executor.run(tool, sanitize(event.payload))
这里的接口职责需要明确:
registry:组件注册表,由宿主应用维护;policy:意图到工具的映射策略;authorizer:用户或角色权限判断;executor:可信执行器,负责最终工具调用;sanitize:输入净化函数;reject:通常用于组件非法、格式错误或事件不可信;deny:通常用于鉴权失败、权限不足或策略拒绝。为了降低落地难度,可以将组件白名单和意图映射外置为配置。例如:
components:- id: leave_formtype: formallowed_fields:- days- reasonallowed_actions:- submitintents:- intent: leave.applytool: hr.leave.createrisk: normalconfirmation: false- intent: file.deletetool: file.deleterisk: highconfirmation: true- intent: deploy.approvetool: deploy.approverisk: highconfirmation: true
这样配置的好处是:组件、意图、工具、风险等级和确认策略都可以审计。安全团队可以检查哪些界面动作绑定了哪些工具,研发团队也可以在新增功能时避免硬编码权限。
对于删除、部署、支付、发布等不可逆或高风险操作,即使按钮已经渲染,也不能一次点击直接执行。系统应要求二次确认。
例如,可以要求权限层返回待确认状态:
if tool.risk == "high":return pending_confirmation(tool=tool.name,payload=sanitize(event.payload),confirmation_id=create_confirmation_token(event.user, tool.name))
用户再次点击确认后,系统仍需要重新校验:
def on_confirm_click(event):if not confirmation.is_valid(event.confirmation_id):return deny(event)tool = policy.resolve(event.intent)if not authorizer.can(tool, event.user):return deny(event)return executor.run(tool, sanitize(event.payload))
这里的关键不是“多一个按钮”,而是确认动作本身也必须经过权限和有效性校验。
权限最小化
任何组件、按钮、意图都不应默认拥有执行权限。只有被明确授权的动作才能进入执行阶段。
人机确认分离
高风险操作必须设置人工二次确认,不能依赖模型自述、界面文案或单次点击。
输入净化
对用户输入保持校验,对 Agent 描述中的参数同样保持怀疑。模型输出不是可信来源。
配置外置
组件白名单、意图映射、风险等级、确认策略应尽可能配置化,便于审计和调整。
生产环境验收
协议解析、组件渲染、事件采集可以通过设计评审和测试覆盖,但高并发、多租户隔离、复杂权限矩阵、真实工具调用失败重试等问题,仍需在真实生产环境中持续验收。
Agent 交互界面的价值在于让用户更自然地完成操作,但它的可信度不取决于界面是否炫酷,而取决于展示、确认、执行三层权限是否被清晰隔离。