函数每次执行占用内存为 128 MB ,运行时间为 3 秒 。小度的对话机器人服务每个月被调用 500万次 。
ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | | | | MIG M. | | == == == == == == == == == == == == == == == = += == == == == == == == == == == = += == == == == == == == ==
Authorization: bce-auth-v1/e38d78f7b74841ec92727531369834d8/2019-10-29T08:25:20Z/1800/host/56a2a8096f99d5b0fb38f7815b61f43f28b662f0bb49c3407386f932ab6550af { "approvalUuid": "89fa78c0-fedc-ecc9
存储类型 分为高性能内存型、容量存储型。 实例规格 用于保存数据的缓存节点的规格,不同规格的缓存节点提供不同容量和性能。 存储磁盘 只有Redis容量型(PegaDB)有该选项,用于存储冷数据。 分片数量 分片是一组缓存节点的集合,当实例包含多个分片时,数据切分到多个分片中,每个分片拥有完整数据集的子集。 实例的总容量等于单个缓存节点的容量与分片数量的乘积。
您对该BCI实例拥有完全的控制权,不需要进行底层服务器的管理和配置操作,只需要提供打包好的容器镜像,即可运行容器。 一个BCI实例相当于一个Pod,包含以下几部分配置: 实例规格 规格包括vCPU、内存等配置,定义了BCI Pod的计算性能等。创建BCI Pod时,您可以指定BCI规格(直接指定vCPU和内存)来满足GPU、增强网络能力等特殊需求。
日志列表 仅 Redis内存型 支持。 请求结构 GET/v1/instance/{instanceId}/log/list?fileType=runlog&startTime={startTime} HTTP/1.1 HOST: redis.
通用型:同一服务器上的不同集群,会互相充分利用彼此空闲的计算资源(如CPU),通过复用计算资源享受规模红利,性价比更高。 独享型:每个集群会独占所分配到的计算资源(如CPU),而不会与同一服务器上的其他集群共享资源,性能更加稳定可靠。
Correctable 计数检查 检查ECC Correctable计数是否大于阈值,该数值异常说明存储可能存在硬件错误 fabric-manager 安装检查 检查fabric-manager组件安装情况,该组件异常会导致无法正常提交训练任务 hALT 配置检查 检查hALT配置情况,hALT未配置 会导致物理机发生重启掉电 网卡驱动检查 检查网卡驱动版本,如果存在异常版本会导致集群通信出现故障
Authorization: bce-auth-v1/e38d78f7b74841ec92727531369834d8/2019-10-29T08:25:20Z/1800/host/56a2a8096f99d5b0fb38f7815b61f43f28b662f0bb49c3407386f932ab6550af { "approvalUuid": "fa78c089-fedc-ecc9
规划流程 根据实际场景进行性能测试,得出单模型实例性能指标(QPS、响应延时、内存占用、显存占用),结合场景高峰流量预估和高可用要求,以及服务器实际显卡数量等计算需要模型应用实例数,根据机器节点硬件资源指标,最终确定硬件节点数。