项目背景

LiblibAI成立于2023年5月，致力于AI内容的创作和分享，目标是彻底改变设计师、画师、自媒体创作者的原有创作方式，成为内容创意行业的AI新质生产力。LiblibAI通过”开源模型生态+模块化工具流”架构，将专业级AI能力降维至大众创作场景。

项目挑战+解决方案

基于百度百舸异构计算平台提供面向大规模深度学习的高性能云原生AI计算平台，为模型算法专家和运维专家提供全面的集群运维支持和任务全生命周期管理，同时具备训练/推理加速、故障容错、智能故障诊断等高级功能，有效训练时长可达98%以上，大幅提升算力使用效率，助力企业在大模型时代的业务转型。

客户痛点

• 国内控制推理成本：提供大规模GPU显卡来满足文生图的在线业务平台，模型训练需要有稳定的、高吞吐的网络性能，可以快速搭建大规模的基础网络建设。
• 海外业务推广回源加速：最终用户覆盖在美西和东南亚国家，为客户提供全球加速服务来保证用户API调用请求能顺利回到国内；并且提供跨国回源加速的上传服务能力，以保障海外用户上传数据到本地存储。
• 成熟训练平台：能够支持英伟达多机多卡RDMA架构的训练平台，并且提供高性能存储和归档存储，能够满足在训练时的存储高吞吐量以及能够将训练数据集降低存储成本；以及集群的调度及训练过程中的指标可观测，便于客户对训练任务进行调度。

客户收益

解决了LiblibAI创作平台推理业务的弹性伸缩和系统可用性问题，保证业务随用户体量扩张的稳定性，以及其业务平台的正常平稳运营。