简介:AI Agent 的技能包可能在用户不知情时读取凭证或外发数据。本文对比事前扫描与运行时隔离两类防护思路的原理、覆盖范围与局限,说明二者如何互补,并给出按风险等级和团队能力选型的判断依据,以及切换方案时的迁移注意事项。
AI Agent 可以调用邮箱、网盘、日历、工单等已连接的工具,读取文件、对话记录和访问令牌,并代表用户执行发消息、修改配置等操作。能力扩展依赖技能包(Skill),技能包通常由第三方编写,运行在 Agent 的上下文中。用户在界面上看到的是技能介绍,真正执行的是技能包中的代码。这种展示与执行相分离的结构,让恶意技能有机会在用户无感知的情况下窃取凭证或传出数据。
业界对此主要有两类应对思路。一类在技能进入平台或被安装前做检测,称为事前扫描。另一类在技能运行时限制其能力边界,称为运行时隔离。两者解决的问题不同,理解其差异有助于合理分配安全投入。
事前扫描是指在技能发布或安装环节,对代码和依赖包进行检查。常见手段包括:
运行时隔离是指假设技能可能存在恶意,通过执行环境中的机制限制其能力。常见手段包括:
两类方案的目标一致,都是降低 Agent 因第三方代码而泄露数据或被滥用的风险。它们都依赖权限声明,即技能需要说明自己要用什么。它们都需要日志记录,以支持事后追溯。它们也都需要规则库或策略库,并随威胁变化持续更新。在组织内部,二者通常都由安全团队或平台团队负责,需要明确责任人和审批流程。
两者也都不能保证绝对安全。扫描只能发现已知或可识别的模式。隔离的效果取决于策略配置是否正确。
事前扫描发生在安装或发布之前。问题在进入运行环境前被拦截,单次成本低,对用户影响小。运行时隔离发生在执行过程中。即使技能通过了检测,仍然受到约束。前者负责在入口处把关,后者负责限定执行时的活动范围。
扫描依赖已知特征和静态规则。对于经过混淆的代码、延迟触发的逻辑,或在运行时才从外部动态下载内容的恶意行为,静态分析的漏报率会上升。隔离不判断代码意图,只限制能力,因此对未知威胁更稳健。不过隔离只能约束已授予的权限,无法判断授权本身是否合理。例如,一个被授予邮件读取权限的技能,仍可能滥用该权限。
扫描可能把合法功能误判为可疑。例如正常的网络请求或文件读取被标记后,技能会被拒绝上架,需要人工复核。隔离的误伤表现为功能受限。例如某技能访问的域名不在白名单中,导致调用失败,需要调整策略后才能恢复。两种误伤的处理路径不同,前者影响上架效率,后者影响线上可用性。
扫描需要样本库、分析引擎或外部检测服务,通常以服务形式接入,需要考虑网络连通性和代码数据的处理合规。隔离需要容器或沙箱运行时、网络策略组件和凭证网关,对执行环境改造较大,并涉及调度与资源管理。
扫描对技能开发者基本透明,接入点在发布流水线中。隔离要求技能声明权限清单,并按清单调整调用方式,例如通过网关获取凭证而非直接读取环境变量。开发改造量明显更大。
扫描的运维重点是规则更新、误报复核和检测结果留存。隔离的运维重点是策略维护、沙箱资源管理、日志量控制以及故障排查。策略过严导致的功能异常,排查链路通常比扫描误报更长。
扫描的成本主要来自检测服务调用和复核人力,并随技能数量增长。隔离的成本集中在前期设计与改造,以及长期的基础设施资源占用和策略维护。两者的投入模式不同:扫描偏向持续运营,隔离偏向一次性架构投入加持续策略维护。
| 维度 | 事前扫描 | 运行时隔离 |
|---|---|---|
| 防护时机 | 安装或发布前 | 技能执行过程中 |
| 核心手段 | 特征匹配、静态分析、信誉查询 | 沙箱、最小权限、出口控制、凭证托管 |
| 对未知威胁 | 依赖规则与样本,覆盖有限 | 限制能力,不依赖识别恶意意图 |
| 主要误差 | 误报导致合法技能被拦截 | 策略过严导致功能受限 |
| 开发者改造 | 低 | 需声明权限并调整调用方式 |
| 基础设施 | 分析服务与样本数据 | 沙箱运行时与网关组件 |
| 运维重点 | 规则更新与人工复核 | 策略维护与资源管理 |
| 成本特征 | 随技能数量增长 | 前期投入较高,长期占用资源 |
选型应基于三个条件:技能来源的可信程度、团队能接受的误拦截率,以及团队的长期运维能力。
以上是条件化的判断,并非绝对结论。没有任何单一方案能够独立保证安全。
引入或切换防护方案时,需要关注以下方面。
下面是一个通用的示意性权限清单,用于说明声明式权限的写法:
skill: invoice-helperpermissions:tools: [mail.read]network:egress_allowlist:- internal-api.example.comcredentials: gateway_injectedhigh_risk_actions:require_confirmation: [mail.send, config.update]
该清单表达了三个约束:技能只能读取邮件,只能访问指定域名,凭证由网关注入。发送邮件和修改配置则需要人工确