体验中心
体验中心提供在线测试模型功能,可以让您在线体验平台预置的模型,也可以用来检验您在平台创建的模型的精确性和反应效果。
功能概述
在体验中心,您可以:选择多个模型测试回答效果、设置模型参数、使用Prompt模板、查看对话历史、查看对话背后的代码。
测试模型回答
您可按以下步骤测试模型回答:
- 登录本平台,在左侧导航栏,选择“体验中心”,进入“体验中心”工作台。
- 在左上方选择想要体验的模型类别,目前支持的类型为:文本对话、图像理解和图片生成。
- 选择模型类别后,可点击界面中间的“选择更多服务”按钮,选择具体模型,支持您选择平台预置服务和您自己发布的模型“我的服务”。”我的服务“创建教程请参考在线服务教程。不同类别模型可选择的最大模型数量限制不同。
- 选择具体模型后,您可在下方输入框输入问题,点击发送,即可查看模型回答。
模型参数配置
在对话界面,点击模型的”调试“图标,即可设置模型对话参数。不同类型的模型支持设置的参数不同。
文本对话类
对于此类模型,当前支持部分预置服务文心大模型服务进行温度、多样性、重复惩罚和系统人设的参数调整,其中ERNIE 4.0和ERNIE 3.5还可以设置实时搜索和搜索溯源的开关。
大致参数介绍如下:
- 温度:较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。
- 多样性:控制⽣成⽂本的多样性,取值越大,生成文本的多样性越强。
- 重复惩罚:⽤于抑制重复的⽣成内容,对已生成的token增加惩罚,取值越大,重复生成的现象越小。
- 系统人设:希望模型扮演的角色,已预置相关prompt模版,可以点击prompt引用。
- 停止标识:当模型生成结果以stop中某个元素结尾时,停止文本生成。最多设置4个,单个长度不超过20个字符。
- 实时搜索:开启后,模型会检索外部相关的知识进行回答。
- 搜索溯源:当触发实时搜索时,在对话框返回的信息中会增加搜索的溯源信息。
同时,还支持设置自定义参数:
- stop: 生成停止标识,当模型生成结果以stop中某个元素结尾时,停止文本生成。
- disable_search: 是否强制关闭实时搜索功能。
- enable_citation: 开启后,有概率触发搜索溯源信息search_info。
- max_output_tokens: 指定模型最大输出token数。
注意:自定义参数无法保证全部生效,最终生效范围以实际调用参数为准;预置参数和保留参数不支持二次配置。
特别注意:
- 此类模型最多可选择3个模型同时测试。
- 基础模型为BLOOMZ-7B的服务当前仅支持单轮对话。
- 当您选择的是自己创建的”我的服务“时,此处的测试问答数据,可作为回流数据,保存到指定数据集版本被模型训练再次调用,详细操作步骤可参考数据回流使用说明。
图片生成类
对于此类模型,不同模型支持设置的参数不同。
对于百度自研的iRAG模型,目前支持上传图片,并输入Prompt:
对于Stable-Diffusion-XL:
选择服务后,您可以进行以下基础配置:
- 输入生成图片的内容prompt,目前已支持纯中文和纯英文的输入,不建议中英文混合使用。
- 输入Negative Prompt,即不希望生成的内容
- 调整图片风格、比例、分辨率和生成的图片数量
您还可以配置以下高级配置:
- 提示词相关性:生成图片时,参考提示词的程度,相关性越高,参考得越严格。
- 采样步数:生成图像时迭代的次数。
- 采样方式(单选):有三种方式:方式1为快速且效果较好;方式2为有变化和惊喜;方式3为稳定高质量。
- 随机种子:随机数,作为图像生成的起点。
- 图像质量优化:使用专用模型对去噪步骤进行进一步处理,以优化生图质量。
完成以上设置,即可生成图像,生成的图像支持下载,使用的prompt也可以一键保存至平台Prompt模板。
如您在直接调用服务时出现请求超时的情况,建议您进行以下操作:
(1)如果未部署该服务,需要您部署本模型为服务,再调用部署好的服务。发布服务流程可参考说明文档,详细计费可查看价格文档。
(2)如果您已经部署过此服务,可在部署资源中进行复购。
图像理解类
对于此类模型,目前支持设置以下参数:
- 温度:较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。
- 多样性:控制⽣成⽂本的多样性,取值越大,生成文本的多样性越强。
查看历史记录
体验中心支持查看生成的历史信息,在左下角”最近对话“处,可查看、搜索、删除对话历史。
Prompt模板
Prompt,提示词,会影响模型生成的内容质量。体验中心支持您使用Prompt模板。在输入框右侧点击”Prompt模板“图标,即可弹出Prompt模板界面。
平台支持预置模板、自定义模板和我的收藏三种类型模板,供您检验模型和应用的效果。
对于想使用的模板,您可点击卡片下方的”引用“按钮。如改模板没有变量设置,Prompt会被直接使用。如有变量设置,您需要先填写变量:
您还可为高频使用的模板设置快捷键,点击卡片下方的“快捷键”按钮,支持设置为0-9的数字快捷键,重复输入同样的数字时,旧快捷键将会被替换。设置好后,在对话框输入“/”和数字,即可完成引用:
注意:
- 如您想自己创建模版,可参考Prompt模板创建。
- 如您想用API调用Prompt模板,可参考API参考。
查看代码
体验中心支持您快速查看对话的API和SDK示例代码,点击查看代码图标,会弹窗代码界面:
您可以复制代码在本地或其他环境中使用,请使用合理方式确保key的安全性。可点击下拉菜单选择支持的语言。目前平台已提供:Python、PHP、Java、Csharp、Go、Nodejs、C等多种编程语言的示例代码。
Token计算器
如您想在发送Prompt之前知道Prompt的Token数,可使用千帆的Token计算器。