Prompt优化
更新时间:2024-09-19
目录
登录到本平台,在左侧功能列选择Prompt优化,进入Prompt优化主任务界面。
在线优化使用说明
平台支持您对Prompt语料进行内容质量和结构上的优化,入口:在线优化。
服务配置参数
配置Prompt优化参数,并选择需要进行测试的模型服务与已授权应用。
1)优化参数配置:
- 质量优化:默认开启,此功能可为您提供高质量的提示词,但优化时间也会加长。
- 缩短提示词:默认关闭,此功能可忽略含义不强的文本实体,提升语料的精炼度并降低推理成本。
- 迭代轮次:默认为1,输入反复迭代Prompt优化的轮次,轮次与优化效果成正比,次数越多,花费时间也越来长。
- 思维链条:默认关闭,拆解Prompt内容,逐步进行推理,建议仅在数学计算或逻辑推理场景下开启。
2)选择服务和应用:
- 选择“预置服务”或者已发布的“我的服务”作为Prompt优化的测试服务。
- 选择您已经创建的“应用”作为Prompt优化的测试应用。
优化Prompt
以上操作完成后,输入原始Prompt语料,如图所示点击“优化”按钮,生成优化后的Prompt。
您可将优化后的Prompt进行“复制”测试,或是“保存为模板”方便以后调用,详细操作可查看创建Prompt模板。
推理Prompt
以上操作完成后,如图所示点击“推理”按钮,则可在线测试优化前后Prompt的推理效果。
查看历史Prompt
在页面右上角点击“历史记录”可以查看历史优化Prompt的记录。点击每个卡片可以看到历史Prompt的内容及参数配置。
批量优化使用说明
平台支持您对对智能数据中的Prompt数据集进行优化,批量获取优质的Prompt语料。入口:批量优化
创建批量优化任务
在主任务界面选择“创建任务”按钮。
注意:Prompt优化功能免费测试中,大于100条数据的数据集仅优化前100条。
填写基本信息
- 任务名称:自定义设置,支持中英文、数字、下划线(_),2-50个字符,不能以下划线为开头。
- 任务描述:选填项,200字符以内。
- 优化前数据集:选择非空且未发布的数据集版本。当前支持Prompt+Response(非排序文本)数据集、Prompt+多Response排序(排序文本)数据集、Prompt集(问题集)进行Promp批量优化。
- 优化后数据集:选择优化后的数据集路径,可以新建数据集版本。
填写优化参数配置
- 质量优化:此功能可为您提供高质量的提示词,但优化时间也会加长。
- 缩短提示词:此功能可忽略含义不强的文本实体,提升预料的精炼度并降低推理成本。
- 迭代轮次:输入反复迭代Prompt优化的轮次,轮次与优化效果成正比,次数越多,花费时间也越来长。
- 思维链条:拆解Prompt内容,逐步进行推理,建议仅在数学计算或逻辑推理场景下开启。
以上所有操作完成后,点击“确定”,即可发起Prompt批量优化任务。
查看批量优化任务
在批量优化主任务界面,即可查看任务概览。
- 详情:展示任务创建的各项参数调整以及Prompt优化前后的数据集跳转。
- 删除:删除此优化任务,一旦删除将不可恢复。但是完成优化后的数据集内容不受影响。