简介:本文面向开发者、运维人员、技术负责人和企业用户,系统介绍高密度人工智能算力场景下,如何完成数据中心能耗盘点、算力与电力协同调度、负载优化、储能联动和效果验证。读者可据此建立一套可实施、可监控、可持续优化的节能降碳方案。
近年来,人工智能模型训练、推理服务和大规模数据处理快速增长,数据中心的能源消耗也随之上升。单个高密度算力集群可能需要数十兆瓦甚至更高等级的供电能力,传统“算力建设完成后再补充电力”的方式,容易造成电网压力、设备利用率不足和能源成本失控。
本教程的目标不是讨论某个具体企业或项目的组织变动,而是抽象出大规模算力基础设施建设中的通用问题,并帮助读者完成以下任务:
适用对象包括数据中心运维人员、人工智能平台开发者、基础设施架构师、能源管理人员、技术负责人以及需要进行算力投资评估的企业用户。
数据中心的能源消耗并不只来自计算设备。一个完整的数据中心能耗通常包括:
在普通业务场景中,计算负载可能较为平稳;而人工智能训练任务通常具有集中启动、持续运行时间长、功率密度高等特点。推理服务则可能受到用户请求影响,出现明显的峰谷变化。如果所有任务都在电价最高、能源最紧张的时段运行,就会推高运营成本,也会增加供电和制冷系统的峰值压力。
“算”指计算任务、算力资源和任务调度;“电”指电力供应、能源结构、用电价格、储能系统和碳排放因素。
算电协同的核心思想是:
不仅要考虑任务能否运行,还要考虑任务在什么时间、什么地点、使用什么能源以及以多大功率运行。
例如:
在开始优化之前,需要先建立基础台账,至少包括以下信息:
| 类别 | 需要记录的内容 |
|---|---|
| 计算资源 | 服务器数量、处理器类型、加速卡数量、内存和本地存储容量 |
| 网络资源 | 交换设备数量、端口速率、链路带宽和网络峰值 |
| 存储资源 | 存储容量、读写性能、数据副本数量 |
| 供配电系统 | 变压器容量、机柜额定功率、实际供电上限 |
| 制冷系统 | 制冷方式、设计温度、冷却能力和调节范围 |
| 任务资源 | 任务类型、优先级、预计时长、最大延迟容忍度 |
| 能源数据 | 分时电价、可再生能源比例、储能容量和充放电限制 |
台账的作用是建立“资源—任务—能耗”之间的对应关系。如果只统计整个园区的总电量,就无法判断哪个计算集群、哪个任务类型或哪个时间段造成了能耗异常。
建议至少建立三级监控粒度:
对于训练任务,可以记录任务开始时间、结束时间、使用设备数量、平均功率、峰值功率和完成样本量。对于推理任务,则应重点记录请求量、响应延迟、并发数、单位请求能耗等指标。
算电协同高度依赖时间序列数据。电价、可再生能源出力、机房功率、任务状态和温度数据必须使用统一时间基准,否则会出现“能源低谷已经结束,但调度系统仍认为处于低谷”的错误。
实际部署中应统一:
对于秒级功率波动和分钟级任务调度,可以分别采用不同采样周期,但必须在数据处理层明确换算关系。
一个通用的算电协同系统可以划分为五层。
负责采集电表、配电设备、制冷系统、服务器、任务调度系统和能源预测系统的数据。
采集指标包括:
将不同型号、不同集群和不同机房的资源抽象为统一的计算资源池。例如,将设备统一描述为:
资源池:计算能力:可用加速单元数量内存容量:可分配内存网络能力:可用带宽功率上限:当前可使用最大功率能源标签:低碳、常规、受限可调度时间:立即、延迟、预约
这样做可以避免调度系统直接依赖某一类设备型号,提升系统的可维护性和扩展能力。
任务管理层负责描述任务的业务约束,包括:
可以将任务分为三类:
调度层根据任务约束和能源状态决定任务的启动、暂停、迁移、降速和资源缩容。
一个通用的调度目标可以表示为:
总目标 =能源成本+ 碳排放成本+ 任务延迟惩罚+ 设备迁移成本+ 供电峰值惩罚
其中,实时任务应优先保证服务质量;弹性任务则可以更多考虑电价和能源结构。
简化的伪代码如下:
每隔固定时间执行一次:读取:当前功率电价新能源预测储能状态任务队列机房温度供电剩余容量如果供电接近上限:降低低优先级任务并发度暂停可中断任务必要时调用储能削峰如果新能源供给充足且温度正常:提高弹性任务调度比例允许预约任务提前执行如果电价较高且任务允许延迟:推迟非紧急任务降低非关键推理服务的资源配置如果温度超过安全阈值:降低局部机柜功率调整任务分布检查制冷系统和气流组织
需要提供统一的监控面板和报表,展示:
不要一开始就调整调度策略。应先连续采集一段时间的原始数据,覆盖工作日、周末、白天、夜间以及高低负载场景。
基线至少包括:
基线的作用是回答两个问题:当前问题在哪里,以及优化后到底改善了多少。
为任务增加能源调度属性。例如:
任务名称:批量训练任务优先级:中最晚完成时间:次日 08:00是否允许暂停:是是否允许迁移:是最大功率:可配置能源偏好:低碳时段优先
实时任务一般不应频繁暂停,否则会影响用户体验。长周期训练和批量处理则可以采用预约、延迟或分段执行策略。
对集群、机柜和任务分别设置功率上限,形成多级保护:
功率上限不能简单设置为设备额定功率之和,还要考虑冗余、制冷能力、配电损耗和突发峰值。建议先采用保守阈值,再根据运行数据逐步放宽。
在有明确峰谷电价或能源预测的环境中,可将任务划分为不同时间策略:
但不能只依据电价调度,还要结合任务截止时间、设备温度和网络带宽。单纯把任务全部推迟到低价时段,可能造成任务堆积和新的功率尖峰。
计算设备功率下降并不意味着总能耗一定下降。如果任务被分散到更多设备上,设备利用率降低,制冷和基础设施能耗可能反而增加。
优化时应关注:
对于液冷或其他高密度散热方式,应重点监控冷却介质温度、流量、换热效率和局部热点,不能只看环境温度。
储能主要用于削峰填谷和提升新能源消纳能力。常见策略包括:
储能调度需要设置最低荷电状态,避免为了短期节省电费而消耗全部备用容量。同时要考虑充放电效率、循环寿命和安全边界。
算电协同系统必须具备故障兜底能力。能源预测失误、数据延迟、计量设备异常或调度服务不可用时,不能影响核心业务。
建议设置以下降级机制:
总用电量下降可能是因为业务量减少,并不一定代表效率提升。因此需要同时观察业务量和能耗强度。
推荐指标包括:
PUE = 数据中心总能耗 / 信息设备能耗单位任务能耗 = 任务总能耗 / 完成任务量单位请求能耗 = 推理服务总能耗 / 有效请求数峰谷差 = 最大功率 - 最小功率新能源使用率 = 新能源供电量 / 总用电量碳排放强度 = 用电量 × 对应时段排放因子
可以采用以下方法:
验证时必须同时记录任务完成率、响应延迟、失败率和重试次数。如果能耗下降但任务延迟明显增加,就不能简单判断为优化成功。
建议按日生成运行报表,按周分析异常,按月评估节能效果。报表至少要回答:
可能原因包括任务截止时间设置过于集中、低谷时段资源不足、任务无法暂停恢复,或者调度策略只考虑电价没有考虑任务量。
排查时应检查任务队列长度、预计完成时间、可用设备数量和调度决策日志。解决方法是扩大可调度时间窗口、分散任务截止时间,并为高峰期保留基础计算容量。
可能是设备启动存在瞬时冲击,多个任务同时开始,或者调度系统只控制平均功率,没有控制短时间峰值。
应增加功率采样频率,检查任务启动时间分布,并设置启动错峰、分批扩容和短时功率保护机制。
如果计算设备利用率下降,而制冷、照明和供配电系统仍维持原有水平,PUE可能上升。
此时应检查空闲设备是否及时下电、制冷系统是否采用动态调节、任务是否过度分散,以及是否存在局部热点导致制冷功率增加。
可能是实时任务被错误地纳入弹性调度,或者资源缩容没有设置恢复阈值。应将实时任务与批处理任务隔离,设置明确的服务等级目标,并采用提前扩容而不是等到请求堆积后再扩容。
预测误差会造成任务提前启动或储能策略失误。建议为预测结果设置置信区间,并采用滚动调度:不一次性安排全天任务,而是根据最新数据持续修正后续计划。
初期可以采用固定规则,例如低价时段运行批处理任务、功率超限时暂停低优先级任务。运行稳定后,再引入预测模型和优化算法,根据任务、能源和温度变化进行滚动决策。
同样一度电,在不同时间和不同能源结构下对应的碳排放可能不同。因此调度目标不应只包含电费,还应纳入时段排放因子、可再生能源比例和碳排放约束。
节能不能只依赖基础设施,还可以从软件和算法侧入手:
能源调度属于基础设施控制范围,必须进行权限分级。普通用户只能提交任务和查看结果,不能直接修改园区功率上限或储能策略。所有策略变更都应经过审批、记录和回滚验证。
算电协同不是简单地“在电价低时运行任务”,而是将算力资源、任务约束、供配电能力、制冷系统、新能源、储能和碳排放指标统一纳入调度体系。
实际落地时,建议遵循以下顺序:
随着人工智能算力规模扩大,数据中心建设的关键指标将不再只是计算性能,还包括供电可靠性、能源利用效率、任务单位成本和碳排放水平。只有把“算得快”和“用电合理”同时纳入架构设计,才能形成稳定、经济并具备长期扩展能力的算力基础设施。