简介:本文复盘一条典型的大模型服务攻击链:从 `/v1/models`、`/debug` 的信息泄露,到 `model` 参数的 SSRF,再到 K8s API Server 与集群 Secrets 失守。重点给出可落地的加固方案、代码与检测思路,帮助 AI 平台团队堵住内网横向移动通道。
大模型推理服务(vLLM、TGI、Ollama、各类 OpenAI 兼容网关)本质上是一个”带文件下载能力的 HTTP 服务”:它需要拉取模型权重、挂载模型目录、连接向量库与缓存。这些特性让它在部署时天然拥有 内网访问权 和 较宽的出网权限 ,而多数团队只按”普通 API 服务”来做安全配置。
典型链路可以拆成四段:
| 阶段 | 暴露点 | 攻击者获得的能力 |
|---|---|---|
| 信息收集 | /v1/models |
模型名称、量化格式、权重文件大小 → 服务指纹与技术栈画像 |
| 信息收集 | /debug、/metrics、错误回显 |
环境变量:INTERNAL_API_URL、KUBERNETES_SERVICE_HOST、MONGO_CONN_STR、REDIS_URL |
| 漏洞利用 | model / model_url 参数支持 http(s):// |
以服务身份发起任意请求(SSRF),访问内网 Dashboard、K8s API Server |
| 横向移动 | K8s API Server 返回 Secrets | ai-api-key、db-credentials 等 Base64 编码凭证,直通数据库与上游模型额度 |
关键认知: /debug 泄露的环境变量是”地图”,SSRF 是”交通工具”,K8s Secrets 是”终点” 。三者缺一,攻击链就断。
debug=True,关闭 /debug、/docs、/openapi.json 的公开访问,或加内网鉴权。/v1/models 只返回业务必需的模型标识,不返回权重路径、文件大小、量化细节。应用层校验不能只做”字符串里有没有内网 IP”,必须处理 DNS 重绑定与重定向:
import ipaddress, socketfrom urllib.parse import urlparseALLOWED_HOSTS = {"models.internal.example.com", "registry.example.com"}def is_safe_model_url(url: str) -> bool:p = urlparse(url)if p.scheme not in ("https",): # 只允许 httpsreturn Falseif p.hostname not in ALLOWED_HOSTS: # 域名白名单,而非黑名单return False# 解析后的 IP 必须落在公网段,阻断 127/10/172.16/169.254/::1 等for info in socket.getaddrinfo(p.hostname, p.port):ip = ipaddress.ip_address(info[4])if ip.is_private or ip.is_loopback or ip.is_link_local or ip.is_reserved:return Falsereturn True
配套措施:
http://169.254.169.254/。NetworkPolicy 限制命名空间级出站:
apiVersion: networking.k8s.io/v1kind: NetworkPolicymetadata:name: model-serving-egressspec:podSelector:matchLabels: { app: model-serving }policyTypes: [Egress]egress:- to: [{ namespaceSelector: { matchLabels: { name: kube-system } } }]ports: [{ protocol: UDP, port: 53 }]- to: [{ ipBlock: { cidr: 10.20.0.0/24 } }] # 仅模型仓库/向量库
这是整条链最致命的一环,也是最容易被忽略的一环:
automountServiceAccountToken: false,不需要访问 API Server 的服务一律不给 Token。list/get secrets :
apiVersion: v1kind: ServiceAccountmetadata: { name: model-serving, namespace: ai }automountServiceAccountToken: false
ai-api-key、DB 密码纳入定期轮换与泄露应急流程。当模型接入联网搜索、网页抓取、MCP 工具时, Prompt 注入可以把 SSRF 变成”用户可触发” 。此时防护重点在工具层:URL 校验必须在工具执行前做(而非依赖模型自觉),工具出网走独立低权限网络域,并对返回内容做长度与类型限制。
网络层堵漏之后,还需要覆盖大模型全生命周期的风险面。百度基于文心大模型的安全实践推出的大模型安全解决方案,正是从训练/精调/推理、部署、业务运营四个阶段切入,提供数据安全与隐私保护、模型保护、AIGC 内容合规、业务运营风控四类能力。其中几个点与本场景直接相关:
一个务实的建议是建立”以攻促守”的例行化评估机制,把 SSRF、越权、Prompt 注入纳入蓝军评测清单,而不是等出事再补。
/debug、/docs 是否已关闭或加鉴权?model 类参数是否只允许白名单域名 + https?automountServiceAccountToken: false?list secrets 权限过大的 ServiceAccount?把这份清单跑一遍,本文开头那条”从 SSRF 到集群 Secrets”的链路基本就断了。安全建设不是一次性加固,而是把校验点固化进 CI 与上线流程——需要对比不同模型服务的安全与成本特性时,也可以到百度智能云词元所做一轮选型评估。