部署基于SGLang的Qwen3-32B多机推理服务 - 容器引擎CCE | 百度智能云文档
SGLang SGLang 是一个高性能的大型语言模型与多模态模型服务推理引擎，通过前后端协同设计，提升模型交互速度与控制能力。
概述 - 容器引擎CCE | 百度智能云文档
具有高可用、高可靠和高性能的特点； 文件存储 CFS： Pod 和 CFS 是多对一的关系，支持多读多写 ，CFS 提供了标准的 NFS 文件系统访问协议，为多个 Pod 提供文件共享能力，支持弹性容量和性能的扩展，是一种高可用、高可靠的分布式文件系统，适合于大数据分析、媒体处理、内容管理等场景； 对象存储 BOS： Pod 和 BOS 是多对一的关系，支持一写多读 ，BOS 适用于数据分发、数据备份
Daemonset管理 - 容器引擎CCE | 百度智能云文档
期望 Pod 数 输入工作负载的 Pod 实例个数。 K8s标签 指定工作负载的标签，对应 Kubernetes 中的 Label，用于识别工作负载的键值对，配合选择器，帮助 Kubernetes 快速筛选目标工作负载。详细信息参考 K8S 标签说明 。
管理节点标签 - 容器引擎CCE | 百度智能云文档
true pools.apps.cce.io/bcc 节点是否是BCC；仅true时该Label存在 true pools.apps.cce.io/{BEC-CITY}-{Provider} BEC节点地点城市和运营商；仅BEC节点存在 pools.apps.cce.io/guangzhou-u
CCE集群网络说明及规划 - 容器引擎CCE | 百度智能云文档
检查当前容器网络不能与当前集群所在的已存在的 VPC 路由冲突(先比较 src 地址是否是 0.0.0.0/0，如果是则继续比较 des 地址）。 CCE集群网络规划 为了保证容器间网络互通，CCE 创建集群时，会将每个容器网段都添加到路由表中，为了避免网段冲突，需要对 VPC 和容器网段进行合理的划分。
部署基于SGLang的DeepSeek-V3.1单机推理服务 - 容器引擎CCE | 百度智能云文档
SGLang SGLang 是一个高性能的大型语言模型与多模态模型服务推理引擎，通过前后端协同设计，提升模型交互速度与控制能力。
部署DeepSeek蒸馏模型推理服务 - 容器引擎CCE | 百度智能云文档
我是由中国的深度求索（DeepSeek）公司开发的智能助手DeepSeek-R1。如您有任何任何问题，我会尽我所能为您提供帮助。\n</think>\n\n您好！我是由中国的深度求索（DeepSeek）公司开发的智能助手DeepSeek-R1。如您有任何任何问题，我会尽我所能为您提供帮助。
移出节点 - 容器引擎CCE | 百度智能云文档
移出节点组的节点，默认会减少节点组期望节点数，您可以取消勾选同时减少节点组期望节点数，取消勾选节点组会通过继续扩容来维持当前期望实例数量，但不包含移出失败、删除失败的节点。 如果节点上存在Pod需要驱逐，需要勾选 进行节点排水 。但是，节点上由 DaemonSet 管理的 Pod 不会被排水。 移出异常状态的节点请不要勾选 进行节点排水 ，否则可能导致移出失败。
集群服务画像 - 容器引擎CCE | 百度智能云文档
总体目标应该是确保容器以尽可能少的特权运行。
使用云盘CDS - 容器引擎CCE | 百度智能云文档
但需要特别注意的是，高负载情况下在线扩容可能会出现IO性能下降或导致IO错误，建议选择低负载时操作并提前创建快照备份。
