产品介绍

百度百舸·AI 计算平台（AI Heterogeneous Compute，简称 AIHC）是面向大规模深度学习的高性能云原生 AI 计算平台，为模型算法专家和运维专家提供全面的集群运维支持和任务全生命周期管理，同时具备训练 / 推理加速、故障容错、智能故障诊断等高级功能，万卡单任务有效训练时长可达 98% 以上，大幅提升算力使用效率，助力企业在大模型时代的业务转型。

产品架构

百度百舸AI计算平台的产品架构图如下所示：

百度百舸·AI 计算平台包括 AI 基础设施、AI 资源管理、AI 工程和模型加速能力。

AI基础设施

百舸 AI 基础设施层作为平台的基石，整合了高性能计算（昆仑芯 / GPU）、高性能存储（PFS、BOS 等）、高性能网络（大规模 HPN、万卡级别 RDMA 网络等），为上层应用提供稳定、高效且可弹性扩展的硬件与系统支持。

AI 资源管理

百舸 AI 资源管理层是实现算力高效利用的核心。用户可根据业务场景选择全托管或自运维资源池，通过弹性多级队列与智能负载调度技术，结合碎片治理和节点免运维等能力，灵活分配计算任务并最大化资源利用率。

AI 工程

AI 工程聚焦于 AI 开发的全生命周期管理，提供从数据准备到 AI 资产（如数据集、模型、镜像）管理的完整工具链，为开发者构建高效、规范的一站式机器学习环境。

模型加速能力

面向社区开源热门模型，百舸通过模型预置与训推加速提供开箱即用的产品能力，降低模型开发与部署成本。

• 预置 80+ 热门模型，覆盖大语言模型（LLM）、多模态模型、智驾模型（自动驾驶）、具身智能模型等。
• 训推加速效果：LLM 训练加速 20%+，多模态加速 30%，智驾模型加速 100%+。