简介:这类事件的本质不是"大模型被黑了",而是 **推理服务把一个可指定 URL 的参数暴露成了内网代理** :`/v1/models` 泄露资产信息、`/debug` 泄露环境变量、模型加载参数形成 SSRF,最终借集群内的 ServiceAccount Token 读到 K8s Secrets。修复顺序应当是"先切断 SSRF 出口 → 再收敛凭证权限 → 最后做内网分段与审计"。如果你正在自建多家模型服务并为此维护多套网关与鉴权,也可以先看[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article),用统一 API 接入方式减少自建入口数量,本身就是缩小攻击面的一种手段。
原始记录里的路径可以还原成一条典型的”信息泄露 → 服务端请求伪造 → 凭证窃取”链条。理解每一环的成因,比记住利用步骤更有价值。
| 环节 | 暴露点 | 根本原因 | 修复优先级 |
|---|---|---|---|
| 1 | /v1/models 返回模型名、量化格式、文件大小 |
未鉴权的资产枚举接口 | 高 |
| 2 | /debug 返回 INTERNAL_API_URL、KUBERNETES_SERVICE_HOST、MONGO_CONN_STR、REDIS_URL |
调试端点在生产环境未关闭,配置以明文环境变量注入 | 最高 |
| 3 | 模型加载/下载参数可指定 http(s):// 地址 |
用户可控 URL 未做协议、域名、解析后 IP 校验 | 最高 |
| 4 | 借 SSRF 访问 Dashboard 与 K8s API Server | 内网无东西向隔离,Pod 出向流量不受限 | 高 |
| 5 | 读取 ai-api-key、db-credentials 等 Secrets |
Pod 挂载了权限过大的 ServiceAccount Token,RBAC 未最小化 | 最高 |
关键点在于: 第 2 环和第 5 环单独存在时危害有限,但组合起来就是完整的凭证失窃路径 。所以加固不能只补 SSRF。
大模型服务里 SSRF 的高发参数不只是”模型下载地址”,还包括 RAG 的远程文档 URL、MCP/工具调用的回调地址、微调数据集拉取地址、以及 Ollama/vLLM 的模型拉取接口。统一按下面的规则校验:
import ipaddressimport socketfrom urllib.parse import urlparseALLOWED_HOST_SUFFIXES = ("models.internal.example.com", "artifacts.example.com")def resolve_and_check(host: str) -> bool:"""校验解析后的所有 IP,拒绝任何非公网地址"""try:infos = socket.getaddrinfo(host, None)except socket.gaierror:return Falseif not infos:return Falsefor info in infos:ip = ipaddress.ip_address(info[4])if (ip.is_private or ip.is_loopback or ip.is_link_localor ip.is_reserved or ip.is_multicast or ip.is_unspecified):return Falsereturn Truedef validate_fetch_url(url: str) -> bool:p = urlparse(url)if p.scheme not in ("http", "https"):return False # 阻断 file:// gopher:// dict://if p.port not in (None, 80, 443):return False # 阻断 6379/27017/10250 等内网端口host = (p.hostname or "").lower()if not any(host == s or host.endswith("." + s) for s in ALLOWED_HOST_SUFFIXES):return False # 域名白名单,而非黑名单return resolve_and_check(host)
四个容易被忽略的细节:
127.0.0.1.nip.io 这类域名可直接绕过。Host 头,而不是让 HTTP 客户端二次解析。allow_redirects=False / maxRedirects=0),重定向目标是二次 SSRF 的最常见载体。
apiVersion: networking.k8s.io/v1kind: NetworkPolicymetadata:name: inference-egress-allowlistspec:podSelector:matchLabels: { app: llm-inference }policyTypes: ["Egress"]egress:- to: # 仅放行模型仓库- namespaceSelector:matchLabels: { name: model-store }- to: # 保留 DNS- namespaceSelector: {}ports:- { protocol: UDP, port: 53 }
注意 169.254.169.254 这类元数据地址:如果运行在云上,还需在实例侧强制 IMDSv2 或关闭元数据可达性,否则 SSRF 可直接换取云主机临时凭证。
/debug 能返回 MONGO_CONN_STR、REDIS_URL,说明配置是以明文环境变量注入的——而环境变量会出现在进程 /proc/self/environ、崩溃日志、APM 采样和任何能读 Pod 的组件里。整改动作:
management.endpoints.web.exposure.include 未包含 env、heapdump、configprops;FastAPI 场景确认 docs_url/redoc_url 与自定义 /debug 路由未随生产镜像发布。用配置开关控制,而不是靠”上线前记得改”。拿到 Pod 的 ServiceAccount Token 后能列出 Secrets,几乎总是 RBAC 过宽导致的。逐项检查:
# 业务 Pod 默认不需要 API 访问能力spec:automountServiceAccountToken: false
get/list secrets 的 ClusterRole。多数集群里这类权限来自”图方便”绑定的 view/edit 聚合角色,需要审计并回收。list secrets、get secrets 建立告警规则;这是发现凭证是否已被读取的唯一可靠证据。ai-api-key 与 db-credentials 放在同一个 Secret 里,意味着一次读取即全线失守。按最小影响面拆分,并为数据库账号配置来源 IP 白名单。攻击者用 SSRF 扫描内网存活端口,说明 Pod 与集群网络之间没有任何东西向管控。除了上面的 egress 白名单,还应:
NodePort 随意开放 Dashboard、Ray、TensorBoard、MLflow、Jupyter 等运维界面——这些组件在真实事件中往往是 SSRF 的第一落点;/v1/models 等只读接口也施加鉴权与限流,资产信息本身即为攻击者提供了模型栈指纹(框架、量化格式、文件大小可推断硬件与部署方式)。
# 1. 确认调试与文档端点是否对外可达curl -s -o /dev/null -w "%{http_code}\n" https://your-host/debugcurl -s -o /dev/null -w "%{http_code}\n" https://your-host/docs# 2. 检查 Pod 是否自动挂载了 Tokenkubectl get pod <pod> -o jsonpath='{.spec.automountServiceAccountToken}'# 3. 找出权限过大的 ServiceAccountkubectl get clusterrolebindings -o wide | grep -i view# 4. 审计近期 Secrets 读取行为(需已开启 audit log)grep '"objectRef":{"resource":"secrets"' /var/log/kubernetes/audit/audit.log | tail -50
自建推理服务越多,需要加固的入口、调试端点和凭证就越多。如果你的核心诉求是”用多个模型把业务跑起来”,而不是”运维多个模型服务”,那么把模型接入收敛到一个统一 API 层,能显著减少这类暴露面——词元所提供的正是这样一种模式:通过统一 API 接入多家模型服务,无需为每个模型单独部署和暴露推理端点,同时可以在平台上做模型能力与调用成本的对比,在选型和预算评估阶段就把”自建还是接入”这个问题算清楚。
安全上的一条通用结论: 任何”用户可以给一个 URL”的功能,都必须按 SSRF 漏洞对待 。大模型服务因为多了模型下载、远程文档、工具回调等场景,受此约束的参数比传统 Web 服务更多,值得在需求评审阶段就单独列一份清单。