9
千帆大模型平台不会用?来看看官方「操作指引」
大模型开发/互助问答
- 社区上线
- 插件应用
- 数据集
2023.09.229043看过
基础操作专区
-
账号登录:千帆大模型平台控制台登录
-
付费开通:千帆大模型平台价格文档
-
创建应用:创建应用流程文档
-
接口调用:推理服务调用说明
注意事项:
-
账号分为「百度账号」和「云账号」,登录时请核实自己的账号类型
-
千帆大模型平台没有免费额度,开通后付费后,调用接口会产生费用,如果账户无余额或者可用的代金券,将会产生欠费停服,需要充值补齐欠款后才能继续调用接口
-
应用名称账号维度唯一,创建应用时如果遇到报错,请尝试换一个名称
-
默认QPS为1,可支持4000人使用,如有更高QPS需求,可以参考文档私有资源池说明
-
想要接口返回结果效果好,需要配合优质的prompt,建议提前学习了解prompt相关知识
模型训练专区
模型训练学习成本和实践使用成本较高,当默认推理服务+prompt调优的方式满足不了您的业务场景需求时,可以进行相关尝试。
注意事项:
-
模型训练流程:创建数据集->导入数据->标注数据->发布数据->创建训练任务->选择基础模型/训练方式/训练数据->发布模型->发布服务->购买私有资源池->服务上线->服务开通付费->勾选服务接口->服务接口调用
-
费用组成:数据集存储费用(如使用了BOS)、模型训练费用、模型托管费用(私有资源池)、服务调用费用
-
数据集标注完成后才可发布,发布按钮点击数据集右侧的「更多」后可看见
-
数据集建议精标5000条以上
-
RLHF训练对数据集的要求比SFT要求更高
-
同一个私有资源池仅支持同一个模型下发布的不同版本的服务,可通过服务关联页面右侧的「服务更新」选项更新服务版本
插件专区
-
插件功能介绍:插件功能文档
-
插件管理:插件管理操作台
-
服务发布:服务发布说明文档
-
接口调用:插件服务接口说明文档
注意事项:
-
文本内容需使用UTF-8编码格式
-
关联性强的内容,建议单独放一个txt文档内
-
txt文档内字符数建议少于300字
-
如搜索不到域内知识,可调低整置信度,再次调试
-
发布服务后,需要编辑应用,勾选服务接口,否则调用会提示没有权限
自助工具专区
示例代码中心
-
ERNIE-Bot:示例代码中心ERNIE-Bot在线调试
-
ERNIE-Bot-turbo:示例代码中心ERNIE-Bot-turbo在线调试
示例应用中心
-
ChatDemo:ChatDemo功能体验
-
ChatFAQ:ChatFAQ功能体验
帮助渠道
常规问题
支持热线:400-920-8999
技术工单:提交技术工单
定制化指导
优选专家服务案例:优选专家服务案例介绍
优选专家服务:优选专家服务咨询
优选专家服务工单:提交优选专家服务工单
评论