百度智能云千帆大模型平台初体验

百度智能云千帆大模型平台初体验

百度智能云千帆大模型平台发布已经有一段时间了，今天我带大家体验一下。

百度智能云千帆大模型平台（以下简称千帆或千帆大模型平台）是面向企业开发者的一站式大模型开发及服务运行平台。千帆不仅提供了包括文心一言底层模型（ERNIE-Bot）和第三方开源大模型，还提供了各种AI开发工具和整套开发环境，方便客户轻松使用和开发大模型应用。

首先进入百度百度智能云官网百度智能云千帆大模型 (baidu.com)

产品功能十分丰富

覆盖大模型全生命周期

更全面更全面

提供数据标注，模型训练与评估，推理服务与应用集成的全面功能服务

训练与推理性能大幅提升

更高效更高效

MLPerf榜单训练性能世界领先，千亿模型分布式并行训练加速能力和算力利用率大幅提升

快速应用编排与插件集成

更开放更开放

预置百度文心大模型与第三方大模型，支持插件与应用灵活编排，助力大模型多场景落地应用

自带敏感词过滤

更安全更安全

完善的鉴权与流控安全机制，自带问答内容审核与敏感词过滤，多重安全机制护航企业应用

内置大量大模型

下面试用一下百度智能云千帆大模型

打开控制台:百度智能云控制台 (baidu.com)

在使用前需要付费开通相关服务

预制服务也要开通

然后返回测试页面

选择应用接入

新建应用

创建一个朋友圈文案编辑器

返回在线测试

同时选择4个服务

在生成速度方面Qianfan-BLOOMZ-7B-compressed略胜一筹，但是ERNIE-Bot更精准，Qianfan-BLOOMZ-7B-compressed消耗token最少

正题来说，各个模型表现都不错，

如果测试不错，还可以在线部署相关模型