简介:百度智能云升级百舸AI异构计算平台与千帆大模型平台,强化算力与模型服务能力。文心大模型日调用量超7亿次,助力企业智能化升级。百度智能云通过AI原生应用产品升级,推动企业数字化转型。
在当今这个数字化时代,人工智能(AI)已经成为推动各行各业发展的核心动力。百度智能云,作为AI领域的领航者,近期宣布对其两大AI基础设施进行了全面升级,进一步巩固了其在市场上的领先地位。这两大基础设施分别是百舸AI异构计算平台4.0和千帆大模型平台3.0,它们的升级不仅提升了算力与模型服务的能力,更为企业的智能化升级提供了强有力的支持。
百舸AI异构计算平台4.0:该平台主要面向算力需求,旨在帮助企业更高效、更稳定地运行大模型。百舸4.0在集群创建、开发实验、模型训练以及模型推理等各个环节都进行了全面优化。特别是在模型推理环节,通过架构分离、KV Cache、负载分配等一系列加速方法,实现了模型推理的降本提效,尤其在长文本推理方面,推理效率提升超过1倍。此外,百舸4.0还构建了十万卡级别的超大规模无拥塞HPN高性能网络,以及面向十万卡集群的分钟级故障恢复能力,为部署大规模集群提供了坚实保障。
千帆大模型平台3.0:该平台则主要聚焦于模型调用、模型开发以及应用开发三大服务。在模型调用方面,千帆3.0可以调用包括文心系列大模型在内的近百个国内外大模型,并支持调用各种传统的小模型,极大地丰富了企业的模型选择。在模型开发方面,千帆3.0提供了最完善的大模型工具链,并支持CV、NLP、语音等传统模型的开发,实现了数据、模型、算力等资源的统一纳管和调度。在应用开发方面,千帆3.0针对企业落地大模型的高频应用场景,对企业级检索增强生成(RAG)进行了全面升级,并增加了业务自主编排、人工编排、知识注入等80多个官方组件支持。
随着百度智能云AI基础设施的升级,文心大模型的调用量也迎来了爆发式增长。目前,文心大模型的日均调用量已经超过了7亿次,累计帮助用户精调了3万个大模型,开发出70多万个企业级应用。这一成绩的取得,不仅得益于文心大模型自身的强大能力,更离不开百度智能云提供的全面支持。
除了两大AI基础设施的升级外,百度智能云还对其AI原生应用产品进行了全面升级。其中,基于文心大模型重构的AI原生智能客服应用“客悦”,在用户复杂意图理解、多模态信息交流等方面实现了大幅提升,问题自助解决率提升至92%,达到业界领先水平。此外,新升级的曦灵数字人4.0也支持根据文字快速生成不同妆造、不同行业特色的3D数字人形象和视频,价格更是大幅降至业内最低的199元。
以中国邮政储蓄银行为例,该行基于百度智能云的大模型及算力管理平台,为18个核心业务系统、30多家分行的金融业务提供了AI赋能。在百舸的支持下,邮储银行顺利完成了不同型号GPU资源的部署和上线,实现了GPU、CPU算力的规划重组。这不仅有力保障了300多个大小模型、6000多次训练任务的顺利进行,还使得模型迭代时间从过去的一个半月大幅缩短至半天。
百度智能云此次升级两大AI基础设施并推出系列AI原生应用产品升级,不仅进一步提升了自身的技术实力和服务能力,更为企业的智能化升级提供了更加全面、高效的支持。随着AI技术的不断发展和普及,相信百度智能云将继续引领行业潮流,为推动数字中国建设贡献力量。
在未来的发展中,百度智能云将继续深耕AI领域,不断推出更多创新产品和服务。同时,也将加强与各行各业的合作与交流,共同探索AI技术的更多应用场景和可能性。百度智能云千帆大模型平台等解决方案将为企业提供更加强大、更加灵活的AI支持,助力企业在数字化转型的道路上迈出更加坚实的步伐。