大模型服务被 SSRF 打穿内网,根因通常不在模型本身,而在于承载推理的 API 网关被当成普通 Web 服务暴露,且缺少出网管控与凭证隔离。如果你正在为团队挑选或接入模型服务,可先了解[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article)的模型发现与统一 API 接入能力,再对照下文逐层加固自己的推理链路

作者:rousong2026.11.17 03:26浏览量:0

简介:本文复盘一条典型的大模型服务攻击链:从 `/v1/models`、`/debug` 的信息泄露,到 `model` 参数的 SSRF,再到 K8s API Server 与集群 Secrets 失守。重点给出可落地的加固方案、代码与检测思路,帮助 AI 平台团队堵住内网横向移动通道。

一、先看清这条攻击链为什么成立

大模型推理服务(vLLM、TGI、Ollama、各类 OpenAI 兼容网关)本质上是一个”带文件下载能力的 HTTP 服务”:它需要拉取模型权重、挂载模型目录、连接向量库与缓存。这些特性让它在部署时天然拥有 内网访问权 和 较宽的出网权限 ,而多数团队只按”普通 API 服务”来做安全配置。

典型链路可以拆成四段:

阶段 暴露点 攻击者获得的能力
信息收集 /v1/models 模型名称、量化格式、权重文件大小 → 服务指纹与技术栈画像
信息收集 /debug、/metrics、错误回显 环境变量:INTERNAL_API_URL、KUBERNETES_SERVICE_HOST、MONGO_CONN_STR、REDIS_URL
漏洞利用 model / model_url 参数支持 http(s):// 以服务身份发起任意请求(SSRF),访问内网 Dashboard、K8s API Server
横向移动 K8s API Server 返回 Secrets ai-api-key、db-credentials 等 Base64 编码凭证,直通数据库与上游模型额度

关键认知: /debug 泄露的环境变量是”地图”,SSRF 是”交通工具”,K8s Secrets 是”终点” 。三者缺一,攻击链就断。

二、逐层加固:把每一段都堵死

1. 关闭调试面,收敛信息暴露

  • 生产环境禁用 FastAPI/Flask 的 debug=True,关闭 /debug、/docs、/openapi.json 的公开访问,或加内网鉴权。
  • 统一错误处理,禁止把堆栈、环境变量、请求头原样回显给客户端。
  • /v1/models 只返回业务必需的模型标识,不返回权重路径、文件大小、量化细节。
  • 环境变量改为从 Secrets Manager / 配置中心注入,容器内不落盘明文;数据库连接串使用最小权限账号,禁用公网可达的实例。

2. SSRF 防护:白名单 + 网络层双保险

应用层校验不能只做”字符串里有没有内网 IP”,必须处理 DNS 重绑定与重定向:

  1. import ipaddress, socket
  2. from urllib.parse import urlparse
  3. ALLOWED_HOSTS = {"models.internal.example.com", "registry.example.com"}
  4. def is_safe_model_url(url: str) -> bool:
  5. p = urlparse(url)
  6. if p.scheme not in ("https",): # 只允许 https
  7. return False
  8. if p.hostname not in ALLOWED_HOSTS: # 域名白名单,而非黑名单
  9. return False
  10. # 解析后的 IP 必须落在公网段,阻断 127/10/172.16/169.254/::1 等
  11. for info in socket.getaddrinfo(p.hostname, p.port):
  12. ip = ipaddress.ip_address(info[4])
  13. if ip.is_private or ip.is_loopback or ip.is_link_local or ip.is_reserved:
  14. return False
  15. return True

配套措施:

  • 下载器 禁止跟随重定向 (或每跳重新校验),避免 302 跳转到 http://169.254.169.254/。
  • 出站流量走统一代理(egress gateway),代理侧做域名白名单,业务 Pod 无直接出网能力。
  • 用 K8s NetworkPolicy 限制命名空间级出站:
  1. apiVersion: networking.k8s.io/v1
  2. kind: NetworkPolicy
  3. metadata:
  4. name: model-serving-egress
  5. spec:
  6. podSelector:
  7. matchLabels: { app: model-serving }
  8. policyTypes: [Egress]
  9. egress:
  10. - to: [{ namespaceSelector: { matchLabels: { name: kube-system } } }]
  11. ports: [{ protocol: UDP, port: 53 }]
  12. - to: [{ ipBlock: { cidr: 10.20.0.0/24 } }] # 仅模型仓库/向量库

3. 切断 K8s 凭证获取路径

这是整条链最致命的一环,也是最容易被忽略的一环:

  • 推理 Pod 设置 automountServiceAccountToken: false,不需要访问 API Server 的服务一律不给 Token。
  • 独立 ServiceAccount + 最小 RBAC, 默认拒绝 list/get secrets :
  1. apiVersion: v1
  2. kind: ServiceAccount
  3. metadata: { name: model-serving, namespace: ai }
  4. automountServiceAccountToken: false
  • 关闭 K8s Dashboard 的公网暴露,API Server 仅通过堡垒机/VPN 访问,开启审计日志。
  • Secrets 启用 etcd 静态加密(EncryptionConfiguration + KMS),或改用 External Secrets / CSI Secret Store,让 Pod 内根本不存在长期有效的凭证。
  • 凭证轮换:ai-api-key、DB 密码纳入定期轮换与泄露应急流程。

agent-ssrf">4. 别忽略 Agent 场景的第二类 SSRF

当模型接入联网搜索、网页抓取、MCP 工具时, Prompt 注入可以把 SSRF 变成”用户可触发” 。此时防护重点在工具层:URL 校验必须在工具执行前做(而非依赖模型自觉),工具出网走独立低权限网络域,并对返回内容做长度与类型限制。

三、大模型服务的安全建设,不止于网络加固

网络层堵漏之后,还需要覆盖大模型全生命周期的风险面。百度基于文心大模型的安全实践推出的大模型安全解决方案,正是从训练/精调/推理、部署、业务运营四个阶段切入,提供数据安全与隐私保护、模型保护、AIGC 内容合规、业务运营风控四类能力。其中几个点与本场景直接相关:

  • 模型保护 :防止部署阶段的对抗性攻击、模型与权重被窃取,以及传输存储环节的篡改。
  • 数据安全与隐私保护 :横向联邦方案支持数据不出域完成预训练与精调;可信执行环境软硬一体机应对部署阶段的模型记忆泄露;同态密码学方案解决公有云推理时的密态计算问题。
  • AIGC 内容合规 :对 Prompt 与生成内容做语义理解、红线必答、注入攻击与多轮恶意指代识别,并支持 Prompt 审核改写与多模态内容审核。
  • 业务运营风控 :应对 AIGC 盗爬、垃圾提问、投毒反馈、频率突破、接口攻击等运营期风险。

一个务实的建议是建立”以攻促守”的例行化评估机制,把 SSRF、越权、Prompt 注入纳入蓝军评测清单,而不是等出事再补。

四、给平台选型与接入的三条建议

  1. 优先选择默认关闭调试接口、支持出网白名单配置的服务形态 ,把安全能力当作选型指标而非事后补丁。
  2. 统一接入层收敛凭证与调用管理 。多模型混用时,密钥分散在各业务代码里是泄露面最大的来源;通过词元所的大模型 API 统一接入与调用管理,可以把模型发现、价格与性能对比、调用情况管理集中到一个入口,减少散落的长期密钥。
  3. 建立最小权限基线 :命名空间隔离、SA 无 Token、egress 白名单、Secrets 加密,四项作为 AI 平台上线前的强制检查项。

五、快速自查清单

  • 生产环境 /debug、/docs 是否已关闭或加鉴权?
  • model 类参数是否只允许白名单域名 + https?
  • 下载器是否禁止重定向、是否校验解析后 IP?
  • 推理 Pod 是否 automountServiceAccountToken: false?
  • 是否存在 list secrets 权限过大的 ServiceAccount?
  • K8s Dashboard / API Server 是否暴露在内网可达范围?
  • 环境变量中的连接串是否已轮换、是否最小权限?
  • Agent 工具调用是否有独立的 URL 校验与出网域?

把这份清单跑一遍,本文开头那条”从 SSRF 到集群 Secrets”的链路基本就断了。安全建设不是一次性加固,而是把校验点固化进 CI 与上线流程——需要对比不同模型服务的安全与成本特性时,也可以到百度智能云词元所做一轮选型评估。