简介:针对大语言模型的提示词注入已成为AI应用的头号安全威胁,但多数团队仍把它当作单一问题处理。本文系统对比直接提示注入与间接提示注入在攻击入口、触发机制、隐蔽性、检测难度与防御策略上的核心差异,帮助开发者与技术负责人厘清两类攻击的本质区别,理解其共同的架构根因,并据此设计分层的纵深防御方案,做出更合理的选型判断。
大语言模型(LLM)应用的普及,使”模型如何理解和执行指令”成为一条全新的安全边界。提示词注入(Prompt Injection)作为一种针对LLM的攻击技术,通过输入精心构造的文本,诱导模型偏离预设指令、泄露系统提示、执行未授权操作或篡改输出逻辑,已被某国际权威应用安全社区列为LLM应用十大安全风险之首。该问题自某早期大语言模型发布以来就陆续被研究人员认知,并随着AI智能体(Agent)的广泛应用而不断放大。
在落地实践中,很多团队把”提示词注入”当作一个笼统概念,试图用一条输入过滤规则解决全部问题。但要真正做好防御,必须先厘清两类主流攻击的差异:一类是攻击者直接对模型发起输入覆盖的直接提示注入(Direct Prompt Injection),另一类是把恶意指令藏进外部数据源、由模型在处理数据时被动触发的间接提示注入(Indirect Prompt Injection)。二者根植于同一个架构缺陷,却在攻击面、触发路径与防御手段上差异显著。本文即围绕这两类攻击展开系统对比。
直接提示注入:攻击者直接与LLM交互(例如通过聊天接口),输入刻意构造的恶意指令,试图覆盖或绕过系统提示。它又常与”越狱(Jailbreak)”关联——越狱侧重诱导模型忽略其内置的安全与对齐机制,而直接注入更侧重覆盖开发者预设的业务规则。二者的共同点是:恶意内容来自用户可写的输入通道,攻击者拥有对输入的直接控制权。
间接提示注入:攻击者不直接与模型对话,而是把恶意指令植入LLM可能读取的外部数据源,如网页、文档、邮件、代码仓库、数据库字段等。当用户或Agent让模型”总结这个网页””分析这份文档”时,隐藏的指令被一并读入上下文并触发。此时攻击者往往与受害者并无直接交互,属于非直接接触式攻击。
尽管入口不同,两类注入共享同一个根本成因,这也是它们被列入同一威胁类别的原因:
正因为同源,任何只针对单条通道的防御都注定存在缺口——这正是需要对比两类攻击、分别设计对策的现实意义。
直接注入的恶意内容来自用户可写输入,攻击者与模型有直接交互,攻击行为的”投递”过程通常可观测。间接注入的恶意内容来自第三方数据,攻击者可能只在一个网页或文档里埋下”陷阱”,等待某个用户或Agent触发,属于”一次投递、多点触发”的模式,攻击者与受害者之间可以完全不相识。
直接注入往往在对话进行中即时触发,指令与攻击意图相对外显,便于通过输入侧规则识别。间接注入的触发依赖”模型恰好读取到被污染的数据”这一条件,藏身于正常业务数据之中(如一份看似普通的说明文档、一条商品评论),隐蔽性明显更高,事后追溯也更困难。
直接注入的信任边界较清晰:不可信的是用户输入。间接注入则模糊了”可信数据”与”不可信数据”的界限——被读取的外部内容表面上是业务需要的资料,实际可能已被污染,导致开发者容易默认”来自内部系统的数据是安全的”,从而产生防护盲区。
随着AI Agent处理的数据源不断增多(网页、文档、邮件、市场数据等),间接注入的攻击面天然随数据源扩张而扩大;直接注入的攻击面则相对收敛于对话入口。这也意味着间接注入的防御需要在整个数据摄入链路上做工作,而非只在输入框处把关。
| 对比维度 | 直接提示注入 | 间接提示注入 |
|---|---|---|
| 攻击入口 | 用户可直接书写的对话输入 | 网页、文档、邮件、数据字段等外部数据源 |
| 攻击者关系 | 与模型/应用有直接交互 | 通常无直接接触,一次投递多点触发 |
| 触发时机 | 对话中即时触发 | 模型读取被污染数据时触发 |
| 隐蔽性 | 相对外显,意图较易识别 | 高,藏于正常业务数据中 |
| 信任边界 | 较清晰(不可信=用户输入) | 模糊(外部数据可能已被污染) |
| 追溯难度 | 相对可控 | 较高,需回溯数据来源链路 |
| 攻击面趋势 | 收敛于对话入口 | 随数据源数量扩张而扩大 |
| 防御重心 | 输入过滤、角色隔离、操作确认 | 数据与指令隔离、来源可信度、工具调用管控 |
需要强调的是,这两类注入没有”谁更重要”的绝对答案,应结合业务形态条件化选择防御重心:
由于指令与数据共用自然语言通道这一根因短期内难以彻底消除,防御应坚持”多层假设被突破”的原则,而非指望某一层完全阻断。
在引入或切换注入防护方案时,需重点关注:
直接提示注入与间接提示注入同源于LLM难以区分指令与数据的架构特性,但在攻击入口、隐蔽性、信任边界与防御重心上存在系统性差异:直接注入以用户输入为通道、意图相对外显,防御侧重输入过滤与角色隔离;间接注入借外部数据投递、隐蔽性更高,防御侧重数据隔离、来源可信度与工具调用管控。选型的关键不在于二选一,而在于认清自身应用的数据流与动作边界,对可控通道做过滤、对不可信数据做隔离、对高危操作做确认,从而构建分层的纵深防御体系。