体验中心
目录
本平台提供在线测试功能,可以让您在线检验平台创建模型的精确性和反应效果。
在线测试支持测试工作台选择服务和应用进行参数配置,输入或引用prompt模板进行输入,完成测试。
提示词(prompt)影响模型生成的内容质量,平台提供prompt模板创建说明,或直接安装服务模型插件使用说明供您选择。
登录到本平台,在左侧功能列选择体验中心,进入在线测试主任务界面。
体验中心工作台
体验工作台界面,在右侧完成基本的参数配置和选择prompt引用,查看整体的测试效果。首先在左上方选择您要体验的服务类型: 文本对话、文本生图、图像理解。
对话类模型类型
注意:同时在线测试的服务可以选择1~6个,且基础模型为BLOOMZ-7B的服务当前仅支持单轮对话。
输入框中可以直接输入问题内容,或者输入“/”号,直接引用prompt模版。
参数配置
当前支持部分预置服务文心大模型服务进行温度、多样性、重复惩罚和系统人设的参数调整,其中ERNIE 4.0和ERNIE 3.5还可以设置实时搜索和搜索溯源的开关;基础模型为BLOOMZ-7B的服务当前仅支持单轮对话。
您可以直接在工作台左侧调整参数,检验模型和应用的返回效果。
- 选择已发布的在线服务,服务创建可参考在线服务使用说明。其中,可选择最多6个服务同时测试。
- 温度:较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。
- 多样性:控制⽣成⽂本的多样性,取值越大,生成文本的多样性越强。
- 重复惩罚:⽤于抑制重复的⽣成内容,对已生成的token增加惩罚,取值越大,重复生成的现象越小。
- 系统人设:希望模型扮演的角色,已预置相关prompt模版,可以点击prompt引用。
- 停止标识:当模型生成结果以stop中某个元素结尾时,停止文本生成。最多设置4个,单个长度不超过20个字符。
- 实时搜索:开启后,模型会检索外部相关的知识进行回答。
- 搜索溯源:当触发实时搜索时,在对话框返回的信息中会增加搜索的溯源信息。
自定义参数
支持配置文档中出现但没有预置的参数。
注意:自定义参数无法保证全部生效,最终生效范围以实际调用参数为准;预置参数和保留参数不支持二次配置。
现在平台提供4个自定义参数:
- stop: 生成停止标识,当模型生成结果以stop中某个元素结尾时,停止文本生成。
- disable_search: 是否强制关闭实时搜索功能。
- enable_citation: 开启后,有概率触发搜索溯源信息search_info。
- max_output_tokens: 指定模型最大输出token数。
测试效果样例
特别注意:当您选择服务时,选择的为已发布的自建服务,此处的测试问答数据,可作为回流数据,保存到指定数据集版本被模型训练再次调用,详细操作步骤可参考数据回流使用说明。
文生图类模型类型
如图所示,可调用预置服务Stable-Diffusion-XL,或者调用已发布的文生图服务:
如您在直接调用服务时出现请求超时的情况,建议您进行以下操作:
(1)如果未部署该服务,需要您部署本模型为服务,再调用部署好的服务。发布服务流程可参考说明文档,详细计费可查看价格文档。
(2)如果您已经部署过此服务,可在部署资源中进行复购。
参数配置
支持您在选择服务后,输入生成图片的内容prompt(正向)、不希望生成的内容,目前已支持纯中文和纯英文的输入,不建议中英文混合使用。
调整图片风格、比例和生成的图片数量:
另外,还支持您进行高级配置,选择提示词相关性、采样步数、采样方式(单选)和随机种子,以及开启图像质量优化(使用专用模型对去噪步骤进行进一步处理,以优化生图质量):
提示词相关性:生成图片时参考提示词的程度,越高参考得越严格
当您完成以上操作,即可生成图像,生成图像支持下载,prompt也可以一键保存至Prompt模板。
图像理解模型类型
体验中心支持使用预置的图像描述模型服务Fuyu-8B,也支持选择您自己创建的服务。
参数配置
目前支持上传图像和prompt。
查看历史记录
体验中心支持查看生成的历史信息,查看和统计大模型回应的质量。
服务调用失败报错
当服务调用失败时,平台会返回错误原因,如下图:
Prompt模板
您可以直接引用prompt模板,在线测试平台支持预置模板、自定义模板和我的收藏三种类型,检验模型和应用的效果。关于模版的创建,可参考Prompt模板创建。
如:检索需要引用的prompt模板,点击“引用”按钮,对于无变量设置的prompt模板,会直接输入,对于有变量设置的prompt模板需要输入变量才可进行验证,如下图所示:
如:对需要引用prompt模板设置快捷键,点击“快捷键”按钮,支持0-9的数字快捷键,重复输入时,旧快捷键将会被替换。在对话框引用(输入“/”)时,会有以下效果展示,直接输入快捷键数字即可完成引用:
部分或全部变量输出完成之后,点击“确定”即可引入模版至对话框。
另外,文本对话类模型支持您在输入prompt时,引入Token计算器,以便您在模型输入时,快捷完成token转换。
关于API调用内容可参考API参考。
查看代码
在体验中心您可以快速查看API和SDK的示例代码
您可以复制以下代码在本地或其他环境中使用,请使用合理方式确保key的安全性。
可点击下拉菜单选择支持的语言:
目前平台已提供:python、php、java、csharp、go、nodejs、C等多种编程语言的示例代码。