角色管理 获取角色列表 接口简介 获取角色列表 接口详情 请求地址 /openapi/v2/group/{groupKey}/role?
弹性高性能计算集群 弹性高性能计算集群 弹性高性能计算集群EHC是基于高性能RDMA网络,将多个裸金属服务器进行互联,每个裸金属服务器配置单独的RDMA网卡,可提供高带宽、低时延的通信能力,极大提升计算任务的加速比的计算集群,适用于超大模型训练、科学计算等大规模计算场景。百度智能云可提供业界主流RDMA技术路线,满足多场景计算需求。
BEC虚机实例加入安全组 table td { white-space:nowrap; } 接口描述 本接口用于BEC虚机实例加入安全组。 请求结构 Plain Text 复制 1 PUT /v2/vm/instance/{instanceId}?
修改BEC虚机实例主机名 table td { white-space:nowrap; } 接口描述 本接口用于修改BEC虚机实例主机名。 请求结构 Plain Text 复制 1 PUT /v2/vm/instance/{instanceId}?
BEC虚机实例移出安全组 table td { white-space:nowrap; } 接口描述 本接口用于BEC虚机实例移出安全组。 请求结构 Plain Text 复制 1 PUT /v2/vm/instance/{instanceId}?
边缘云服务器 BEC创建和删除实例模板 介绍在BEC里如何创建和删除实例模板。 BEC创建和删除边缘云服务器 介绍在BEC里如何创建和删除边缘云服务器。 BEC变更边缘云服务器配置 介绍在BEC里如何变更和批量变更边缘云服务器配置。 BEC实例组扩容 介绍在BEC里如何完成实例组扩容。 BEC重置密码和创建密钥对 介绍BEC实例密码的重置和密钥对的创建、查看、删除功能。。
加速卡概览(实时) 总卡数 资源池/队列内所有节点上加速卡(如GPU)的物理总数。 分配量 当前已被任务占用的加速卡数量(包含部分分配的情况),直接反映资源的实际使用压力。 不可用卡数 因节点故障或硬件异常导致无法被使用的加速卡数量。 资源利用率(平均值) 加速卡利用率 加速卡计算核心的平均使用率,是衡量算力负载水平的关键指标。
性能下降 加速芯片固件、驱动版本检查 检查多机间加速芯片固件版本是否一致 加速芯片预期数量检查 检查 节点中感知的加速芯片数量,并与预期数量进行比较确保设备正常工作 加速芯片初始化状态检查 检查 是否存在未正确初始化或存在问题的加速芯片节点。
AIAK推理加速组件 概览 AIAK是面向人工智能任务提供的加速引擎,用于优化基于AI主流计算框架搭建的模型,能显著提升AI任务开发、部署的运行效率。 其中,AIAK推理加速套件是通过优化主流的AI框架,例如:Tensorflow、PyTorch产出的模型,降低在线推理延迟、提升服务吞吐,大幅增加异构资源使用效率的推理优化引擎,结合百度智能云的IaaS资源,可进一步提升用户AI场景下的计算效率。
str 否 None full、selective 重计算粒度 --recompute-method str 否 None uniform、block 重计算方式 --recompute-num-layers int 否 1 NA 重计算层数 --distribute-saved-activations bool 否 False NA 中间值结果按tensor model parallel维度切分开关