平台使用快速开始
当前新用户注册百度智能云千帆千帆大模型开发平台ModelBuilder,实名认证后即送20元代金券!全平台无门槛使用,有效期一个月。
此外,现在下单购买活动专场大模型tokens量包,立享折上折优惠。
前提条件
要使用千帆ModelBuilder,首先需要注册成为百度智能云用户,并完成实名认证。
首先让我们用5分钟来注册百度智能云账号(如您已经是开发者,可直接登录使用),关于平台计费标准可查看价格说明。
SDK快速使用
本文主要介绍如何快速开启平台前端快速使用平台的流程与步骤,关于千帆ModelBuilder的SDK快速上手流程,您可参考SDK快速入门。
流程说明
千帆ModelBuilder覆盖从数据管理、数据标注、模型开发、模型纳管、部署上线的AI能力研发与应用全生命周期建设和管理。接入文心大模型算法和开放第三方业内知名的模型算法,降低全流程AI开发门槛。
平台支持SFT,准备内容可参考SFT快速调优。
实现步骤
在您完成注册后,可以登录到千帆ModelBuilder操作台,只要以下6个步骤即可快速完成大模型定制及测试效果的全过程。
数据导入-> 数据标注-> 训练配置-> 模型纳管-> 发布服务-> 体验测试
Step1:数据导入
- 需要您在左侧功能栏选择“数据集 > 通用数据集”,进入数据总览界面,选择创建数据集。
- 进入“创建数据集”界面,填写数据集名称后,数据类型选择prompt+response类型,选择平台存储,选择关闭手动构建,可以直接上传文件。
3.您也可以创建数据集后,再导入数据。按实际需求填写导入方式以及对应的格式或路径,上传无标注文件或者链接内容等,确认即可。
更多操作,可见数据服务使用说明。
Step2:数据标注
在数据集列表中,找到以上创建的数据集,点击操作列的“标注”按钮。当光标移动至回答框,会有“自动生成”按钮,回答支持调用平台的LLM模型为问题生成对应回答,可在左上角切换模型。
- 您可以选择自动生成回答或手动生成回答,回答生成后“保存标注”即可。
- 标注好的文本数据,将会在“有标注信息”页签下展示。
更多操作,可见在线标注使用说明。
Step3:训练配置
- 需要您在左侧功能栏中选择“模型精调 > SFT”中创建调优任务,调整训练配置及参数(BLOOMZ-7B为例),不开启增量训练。
- 选择Step1中已发布的非排序文本数据集,并填入数据拆分比例。
3.以上步骤都完成后,点击“确定”按钮,即可进入模型的训练,当任务详情中的模型运行显示“运行完成”,则表示模型训练成功。
更多操作,可见SFT任务使用说明。
Step4:模型纳管
选择Step3运行中的“发布”,填写新模型发布相关内容,将模型纳入模型管理模块。
更多操作,可见本章模型管理内容。
Step5:发布服务
- 需要您在左侧功能栏中选择“模型服务 > 在线服务”,选择“创建服务”按钮,或者直接在Step4模型详情中的版本列表页,选择指定模型“部署”。
- 按照实际需要,进行服务配置和资源配置。
- 发布成功后,“模型服务 > 在线服务”中即可列表展示服务内容。
发布服务到私有资源池,通过API接口调用模型。更多操作,可见在线服务使用说明内容。
Step6:体验测试
在左侧功能列的体验中心,选择自训练模型和参数配置,进行在线测试。详细可见体验中心使用说明,参数配置列选择本服务。
如果需进行“应用创建”,可移步至应用接入。