模型配置
更新时间:2024-09-18
模型选择
你可以在模型配置中选择思考模型和问答模型,思考模型用于任务规划和选择组件,问答模型用于总结生成回复结果,支持选择平台预置模型及用户在千帆ModelBuilder创建的自定义模型(千帆平台精调训练模型+自定义开发或外部下载模型)。你可以参考平台资源大模型服务进行模型的选择和使用。也可以参考模型创建说明直接创建自定义模型——上传场景数据对预置模型进行微调(SFT)或导入自训练大模型,在特定场景下达到极致效果。
模型付费状态默认关闭,开启后,如果你已开通付费模型,免费资源消耗完毕后自动切换到付费资源,保障应用稳定可用,如需开启,请点击【修改配置】按钮前往资源额度页面。
模型效果配置
你可以配置最大思考次数和参考对话轮数,最大思考次数指在一轮对话中,组件调用的最大次数。推荐值为4,数值越大,可以处理更复杂的任务,但会增加响应耗时和Tokens消耗。
参考对话轮数是指传入大模型上下文的最大对话轮数。推荐值为2,数值越大,多轮对话中上下文相关性越强,但Tokens消耗越多。
模型 | 说明 | 模型选择 |
---|---|---|
思考类型 | 用于任务规划和选择组件,适用于规划任务和调用能力环节 | ERNIE-4.0-8K:最准 ERNIE-4.0-Turbo-8K:准且快ERNIE-3.5-8K:较均衡 ERNIE Speed- AppBuilder:最高效价比 ERNIE-Lite- AppBuilder-8K:最快 |
问答模型 | 用于总结生成回复结果,适用于知识问答环节 | 推荐使用ERNIE Speed- AppBuilder模型,性价比高 |
备注:你可以在千帆大模型平台查看各个模型的介绍和版本说明。多样性数值越高,每次输出的内容差异就越大。推荐多样性数值为0,可调节范围为0-1。