简介:本文围绕 AI Agent 安全领域两种典型攻击方式——传统控制类提示注入与信息注入展开对比。研究表明,在金融交易类 Agent 上,信息注入的平均攻击成功率可达 61.7%,远高于控制类提示注入的 13.8%。文章从攻击目标、作用层面、检测难度、防御思路等维度系统梳理二者差异,并给出可落地的防御选型建议,帮助技术负责人理解:当 AI 从生成内容转向执行行动时,外部信息真实性为何正在成为系统安全的关键变量。
在 AI Agent 大规模落地的今天,安全问题正在发生一个容易被忽视的转变:Agent 不再只是”生成内容”,而是”执行行动”。一个金融交易 Agent 会获取行情、分析新闻、评估风险,然后真正下单;一个运营 Agent 会读取工单、调用接口、修改数据。一旦这些行动建立在被污染的信息之上,后果就不再是一段错误文本,而是一次错误的业务操作。
在这种背景下,业界讨论最多的两类攻击——控制类提示注入(Prompt Injection) 与 信息注入(Information Injection)——经常被混为一谈。但它们攻击的其实是完全不同的层面,防御逻辑也截然不同。某研究团队以金融交易 Agent 为对象构建的攻击框架,通过约 10,000 次模型决策测试给出了一个很有说服力的对比:两类攻击的成功率差距接近 5 倍。本文即以这组对比为切入点,系统梳理二者的区别与选型防御思路。
控制类提示注入(指令操纵)
这类攻击针对的是 Agent 的指令执行机制。攻击者试图让模型忽略或覆盖开发者设定的安全规则,常见手法包括:在不可信的外部文档里伪装成”系统指令”、诱导模型进入某种”角色”、用话术让模型放弃既有约束。它的本质是操纵控制平面——攻击规则、权限、行为边界。
信息注入(信息操纵)
这类攻击换了一个思路。攻击者完全不要求 Agent 修改任何既定规则,而是直接污染 Agent 决策所依赖的事实、证据或业务数据。它的本质是操纵数据平面——攻击的是 Agent”依据什么来判断”。
用一个金融交易 Agent 的正常流程来说明:
获取实时行情 → 分析市场新闻 → 综合判断风险 → 执行交易
这个区别非常关键:信息注入下,Agent 的每一条规则都被严格遵守,只是它依据的事实是假的。
尽管作用层面不同,两类攻击在几个基础维度上高度一致,这也是它们容易被混淆的原因:
| 维度 | 控制类提示注入 | 信息注入 |
|---|---|---|
| 攻击目标 | 控制平面(规则/权限/行为边界) | 数据平面(事实/证据/业务数据) |
| 是否试图修改规则 | 是,诱导模型覆盖或忽略规则 | 否,规则被完整保留 |
| 攻击成功的前提 | 需要”骗过”模型的安全约束 | 只需让虚假信息看起来像真实数据 |
| 检测切入点 | 指令异常、越权请求、异常角色 | 信息来源真伪、多源一致性 |
这是最根本的差异。控制类提示注入本质上是一场”规则攻防战”,防守方可以通过强化约束、隔离指令与数据、检测越权行为来拦截;而信息注入绕过了这条战线——它不碰规则,只碰输入,所以传统的”指令过滤”手段对它几乎无效。
研究团队在受控环境构建的参考交易 Agent 上测得:传统控制类提示注入的平均攻击成功率为 13.8%,而信息注入达到了 61.7%。更值得注意的是,两种不到 40 个英文单词的虚假事件模板,在测试的 15 只股票上均观察到了 100% 的决策改变成功率。
这组数据背后有清晰的技术逻辑:
重要澄清:上述实验衡量的是受控环境中 Agent 交易决策的变化,而非真实金融市场的价格冲击。它并不意味着攻击者已经能在真实市场制造崩盘。这组数据的真正价值,是揭示了”决策被改变”这件事本身有多么容易达成,而不是夸大了真实世界的破坏力。
| 维度 | 控制类提示注入防御 | 信息注入防御 |
|---|---|---|
| 核心思路 | 强化指令隔离与权限约束 | 建立信息来源可信与交叉验证 |
| 常用手段 | 指令/数据分离、最小权限、行为沙箱 | 来源鉴权、多源印证、异常检测、人工确认 |
| 主要难点 | 平衡约束强度与可用性 | 如何在实时性要求下验证信息真伪 |
| 误伤风险 | 约束过严导致 Agent 功能受限 | 验证过严导致错失时效信息 |
对控制类提示注入,行业已有相对成熟的思路:把系统指令与用户数据严格分离、对 Agent 的行动权限做最小化设计、在高危操作前引入确认环节。而对信息注入,防御重心必须转向信息本身的可靠性,这也是这项研究提炼出的防御方向所在——本质上要回答一个问题:Agent 凭什么相信它读到的这条信息是真的?
基于上述差异,企业级 Agent 安全建设不应把两类攻击当作同一件事来防,而应分层应对:
区分控制平面与数据平面,分别设防。对指令类风险,优先做指令隔离与最小权限;对信息类风险,必须建立独立的”信息可信度”防线,二者不能相互替代。
对高影响决策引入来源验证与多源印证。当一条信息会触发下单、改库、对外调用等高影响动作时,不应仅凭单一来源就做决策,可通过多源交叉核对降低被单点污染的风险。
在高危行动前设置确认与熔断机制。把”决策”与”执行”解耦,为不可逆或高价值操作增加人工确认或阈值熔断,是应对两类攻击都适用的兜底手段。
把信息可信度纳入监控与审计。仅记录”Agent 做了什么”不够,还应记录”Agent 依据什么信息做的”,这样才能在事后追溯决策是否被污染。
警惕”规则没被破坏”带来的虚假安全感。信息注入最危险的地方在于,所有安全规则看起来都正常工作,监控指标也可能一切正常,但决策已经悄悄改变。安全评估必须覆盖输入信息的真实性,而不仅是输出行为的合规性。
在落地层面,无论是构建 Agent 运行时防护,还是依托云上通用的日志服务、监控告警、身份认证等基础能力搭建审计与告警体系,百度智能云等主流云服务方案通常都提供了可组合的基础组件,可支撑上述”信息溯源+行为审计+权限管控”的防护闭环,具体选型应结合自身业务对实时性、合规性和运维能力的要求综合评估。
控制类提示注入与信息注入,表面看都是”用不可信输入攻击 Agent”,但它们攻击的层面根本不同:前者操纵控制平面,试图让 Agent 违反规则;后者操纵数据平面,让 Agent 忠实地依据假信息行动。正因如此,信息注入在实验中展现出明显更高的成功率(61.7% 对 13.8%)和更强的可复制性,也更难被传统指令过滤手段拦截。
对技术负责人而言,最需要带走的判断是:当 AI 从”生成内容”转向”执行行动”,外部信息的真实性已经成为与权限控制同等重要的安全要素。防御不能只盯着”Agent 会不会被诱导违规”,还要追问”Agent 相信的信息到底可不可信”。二者不是替代关系,而是需要并行建设、分层设防的两条战线。