概述

本文档介绍 CCE GPU Manager 组件的功能、适用场景、限制说明及安装方法。CCE GPU Manager 组件是一系列 GPU device plugin 的集合，结合配套的 scheduler 可以实现复杂场景下的 GPU 资源调度能力。该组件支持隔离最优型，可实现算力和显存的共享与隔离。在 CCE 集群中运行 GPU 应用时，可缓解 AI 训练等场景中独占整张卡造成的资源浪费，从而提高资源利用率并降低成本。

前提条件

• 当前账号在目标地域下已存在可用的 CCE 集群，并具备访问目标集群组件管理页面的权限。
• 集群 Kubernetes 版本为 v1.18 及以上，且节点环境满足本文“限制说明”中的容器运行时、GPU Driver 和操作系统内核版本要求。
• 如需使用组件完整功能，请同时安装 CCE AI Job Scheduler。若当前地域下无可用集群，请先完成集群创建，并确保账户余额满足控制台校验要求。## 组件功能

• 拓扑分配：提供基于 GPU 拓扑分配功能，当用户分配超过1张 GPU 卡给 Pod 时，系统自动选择拓扑连接最快的方式分配 GPU 设备。
• GPU 共享：提供为节点上的 GPU 设备开启显存共享功能，支持将 GPU 卡按显存大小分配给多个 Pod。
• 显存和算力隔离：多 Pod 共享单张 GPU 卡时进行显存和算力级别的隔离。
• 精细化调度：开启精细化调度后，创建队列和任务时均支持选择具体的GPU型号。关闭精细化调度后创建队列和容器时仅支持输入配额，不支持选择具体的GPU型号。
• 编解码实例：提交编解码任务，使用GPU独立的编解码单元进行硬件编/解码。
• 组件详细使用说明请参照：GPU独占和共享说明

使用场景

在 CCE 集群中运行 GPU 应用时，可以解决 AI 训练等场景中独占整张卡造成资源浪费的情况，从而提高资源的使用率，降低成本。

限制说明

• 支持 v1.18 及以上版本的 Kubernetes 集群。
• 目前该组件依赖于 CCE AI Job Scheduler，若您需要请一同安装，否则可能导致组件功能不可用。
• GPU 共享虚拟化目前适配了以下主流的GPU CUDA和Driver版本，其中隔离最优型对操作系统内核版本等有额外的要求。如您有其他版本适配需求请提交工单。目前支持情况具体如下。

安装组件

导航路径：产品服务->云原生->容器引擎 CCE->集群管理->集群列表，进入目标集群后选择 运维与管理->组件管理。

1. 登录 百度智能云官网 并进入管理控制台。
2. 进入 产品服务->云原生->容器引擎 CCE->集群管理->集群列表。
3. 在集群列表中，单击目标集群名称，进入集群管理页面。
4. 进入 运维与管理->组件管理。
5. 在组件管理列表中找到 CCE GPU Manager 组件，单击 【安装】。
6. 在安装确认弹窗中，按需配置组件参数。
7. 单击 【确认】，完成组件安装。

安装参数说明如下：

版本记录