简介:本文围绕AI智能体生成交互界面的场景,分析界面描述、用户确认与工具执行之间的权限边界,说明宿主应用如何通过组件白名单、事件校验和独立执行策略控制风险,并给出落地要点,帮助开发者在日程确认、方案选择和报告预览等场景中安全引入结构化界面。
一、场景概述
AI智能体已经从回答问题转向替用户办事。安排会议、整理报表、提交审批、发布服务,这类任务的共同特点是过程中经常需要用户参与决策。如果智能体只用一段文字回复,用户要自己从长段落中找出时间、金额和对象等参数,核对无误后再回到对话框输入确认,效率较低。
对于日程确认、多方案选择、报告预览这类场景,一张可编辑、可勾选、可点击确认的界面比长文字更直观。用户能直接修改参数,系统也能把确认动作转化为明确的结构化操作。
问题随之出现:界面由谁描述,谁就有机会影响界面的行为。如果智能体可以直接生成任意HTML和脚本并在页面中执行,它实际上获得了前端运行环境的控制权。更常见的隐患是按钮越权。智能体生成一个“确认发送”按钮,用户点击后,系统是否真的发送邮件,应由哪一层决定?这是本文讨论的核心问题。
二、场景痛点
文字交互效率低。长段落中嵌入的参数难以快速定位和修改,用户在多个选项之间切换时容易出错。
界面不可控。模型自由生成的界面结构、样式和交互行为难以预测。它可能破坏宿主应用的设计规范,也可能包含危险脚本。
界面与权限混淆。按钮的存在容易被误解为授权,点击容易被误解为执行。如果宿主应用没有独立校验,智能体可能借助一个表单字段触发删除文件、发送消息或修改部署配置。
状态难以同步。界面需要随任务进展更新,例如进度变化、选项被他人占用。若每次都整体重绘,会出现闪烁,也可能丢失用户已填写的内容。
可审计性差。若无法回答“这次确认由哪个用户做出、基于哪个版本的界面、发生在什么时间”,出现问题时就难以追溯。
三、能力需求
从技术角度拆解,该场景至少需要以下六类能力:
四、方案思路:三层分离
核心原则是把界面生成、用户确认和工具授权拆分为三个独立环节。
第一层是界面描述层。智能体输出结构化界面描述,只表达展示什么内容、允许哪些交互,不包含可执行代码。
第二层是渲染与交互层。宿主应用解析描述,只渲染白名单内的组件。用户点击按钮后,前端生成事件。事件只表示用户表达了某个意图,不代表任何动作已经完成。
第三层是执行与授权层。可信执行器接收事件,结合当前用户身份、操作类型、资源范围和风险等级,依据策略规则决定是否执行。高风险操作还需要二次确认或审批。
这种分层的效果是:即使智能体生成了错误或恶意的界面描述,最坏结果通常只是界面展示异常,无法绕过执行层的策略。
下面是一个通用示意,字段名称为示例,并非任何特定协议的定义:
{"surfaceId": "schedule-confirm-001","version": 3,"components": [{"id": "title", "type": "Text", "props": {"value": "本周会议安排"}},{"id": "slot-list", "type": "RadioGroup","props": {"options": ["周二 10:00", "周三 15:00"]}},{"id": "confirm-btn", "type": "Button", "props": {"label": "确认"},"event": {"name": "confirm_slot", "payload": {"select": "slot-list"}}}]}
宿主应用对该描述的处理逻辑可以写成如下伪代码:
function handleSurface(desc):assert desc.version >= currentVersion(desc.surfaceId)for c in desc.components:if c.type not in ALLOWED_COMPONENTS:reject_or_skip(c)validate_props(c.type, c.props)render(desc)function onUserEvent(evt):record_event(evt) # 事件只记录用户意图intent = build_intent(evt) # 转换为受控意图类型decision = policy.evaluate(user, intent, resource)if decision.requires_confirmation:show_confirm_dialog(intent)elif decision.allowed:executor.run(intent) # 仅由可信执行器执行else:notify_user(decision.reason)
示例中,事件只携带选项标识,不携带可直接执行的命令、地址或脚本。执行器只接受预先定义的意图类型,未知意图直接拒绝。
五、典型流程
六、关键模块
七、落地要点
权限层面:执行器使用最小权限的服务账号,并按意图类型拆分凭据。智能体进程不应直接持有邮件发送、文件删除或部署发布的凭据。
校验层面:界面描述需要在服务端和客户端同时校验。服务端校验可阻止异常输出进入业务系统,客户端校验作为渲染层的保护。对未知组件类型应拒绝或降级显示,不做猜测性渲染。
事件安全:事件需要绑定会话和界面版本号。过期版本的点击应被拒绝,避免用户在旧界面上确认新内容。对关键事件可加入一次性令牌,降低重放风险。
幂等与回滚:确认类操作应设计幂等键,使网络重试不会产生重复执行。对于不可逆操作,应在确认前展示完整的影响范围,例如涉及的对象数量和变更内容。
性能与稳定性:界面更新优先采用增量方式,减少整体重绘。长列表应分页或使用虚拟滚动。事件处理需要设置超时。执行器故障时,界面应明确提示“操作未完成”,而不是显示成功。
成本与可维护性:组件库需要版本化管理,界面描述同样需要版本号,以便兼容旧版本客户端。建议记录智能体的调用次数和界面生成耗时,用于评估成本与性能瓶颈。
用户体验:确认按钮文案应说明具体动作,例如“发送邮件给3位参与人”,比笼统的“确定”更清楚。执行完成后,界面应展示明确的结果状态。
八、场景扩展