创建模型评估任务
本接口用于创建模型评估任务。
请求参数
方法名称,固定值CreateEvalTask
任务名称
任务描述
评估的数据类型,可选值如下:
· inferDataset:推理数据集
· model:评估模型
评估对象配置信息
显示子属性
隐藏子属性
评估模型配置信息
显示子属性
隐藏子属性
评估数据集版本的ID,说明:
(1)当评估对象是模型或者服务的时候,即evalObjectType=model,该字段必填
(2)可以通过以下任一方式获取该字段值:
· 方式一:通过调用创建数据集接口,返回的versionId字段获取
· 方式二:在控制台-数据管理-数据集-通用数据集查看,如下图所示:
推理结果集存储类型,说明:
(1)仅针对模型评估,用于存储评估过程中产生的推理结果集
(2)可选值如下:
· BOS:对象存储BOS
· sysStorage:平台共享存储,不填默认是sysStorage
存储路径,说明:当存储类型为对象存储BOS时,即storageType=BOS,该字段必填,需提供完整存储路径
评估子对象配置列表
显示子属性
隐藏子属性
显示子属性
隐藏子属性
推理Prompt,说明:
(1)必须包含{input}
(2)示例:你是一个好助手,请遵照{input)要求,以商务风格做出相应回复,要求语言简练,客观详尽
模型推理超参
显示子属性
隐藏子属性
温度,说明:
(1)较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定
(2)建议该参数和top_p只设置1个
(3)两位小数,范围[0.01, 1.00]
多样性,说明:
(1)影响输出文本的多样性,取值越大,生成文本的多样性越强
(2)建议该参数和temperature只设置1个
(3)一位小数,取值范围[0.0, 1.0]
重复惩罚,用通过对已生成的token增加惩罚,减少重复生成的现象。说明:
(1)值越大表示惩罚越大
(2)一位小数,取值范围[1.0, 2.0]
模型人设字段
是否强制关闭实时搜索功能,默认false,不关闭
搜索溯源,开启后有概率触发搜索溯源信息
采样参数,在每轮token生成时,保留k个概率最高的token作为候选。说明:
(1)影响输出文本的多样性,取值越大,生成文本的多样性越强
(2)取值范围:正整数
推理停用词表
显示子属性
隐藏子属性
启用GSB的时候,表示基准对象;若开启,要求待评估对象的数量为2
评估结果集配置信息
显示子属性
隐藏子属性
评估子对象配置列表
显示子属性
隐藏子属性
显示子属性
隐藏子属性
推理结果集ID,通过以下方法获取该字段值,在控制台-数据管理-数据集-推理结果集页面,点击某个推理结果集详情,点击推理结果集信息页面查看,如下图所示:
启用GSB时,表示基准对象;若开启,要求待评估对象的数量为2
评估参数配置
显示子属性
隐藏子属性
评估模式,可选值如下:
· rule:基于规则
· model:裁判员模型
· manual:人工评估
· rule,model:同时支持自动规则和自动裁判员评估
人工评估配置
显示子属性
隐藏子属性
人工评估评价维度,说明:
(1)默认维度为满意度,不可删除
(2)用户可自行添加其他维度,最多添加4个维度
(3)当evalMode参数中包含manual,即存在人工评估模式时,此字段必填
显示子属性
隐藏子属性
显示子属性
隐藏子属性
评价维度
维度的描述
自动规则评估配置
显示子属性
隐藏子属性
基于规则的停用词表,说明:当evalMode参数中包含rule,即存在规则评估模式时,此字段有效,非必填
显示子属性
隐藏子属性
自动裁判员评估配置
显示子属性
隐藏子属性
裁判员评估打分模板配置,说明:
(1)当evalMode参数中包含model,即存在裁判员评估模式时,此字段有效
(2)用户若未指定则采用平台默认配置
显示子属性
隐藏子属性
指标内容,替换{metric}占位符
评分步骤,用于替换{steps}占位符
最高分,用于替换{max_score}占位符
裁判员打分应用名称,裁判员打分应用默认使用EB3.5和EB4.0的主线版本的预置服务进行评估,说明:
(1)当前仅开放两类名称供用户选填:
· EB3.5:ERNIE-Bot
· EB4.0:ERNIE-Bot-4.0
(2)不填默认是EB3.5
POST /v2/eval?Action=CreateEvalTask HTTP/1.1
Host: qianfan.baidubce.com
Authorization: authorization string
Content-Type: application/json
{
"taskName": "管控API裁判员评估测试",
"description": "管控API测试",
"evalObjectType": "model",
"evalObjectConfig": {
"evalModelConfig": {
"versionId": "ds-mwmk3mwxxxxxfk",
"storageType": "sysStorage",
"evalModelConfigList": [
{
"modelId": "amv-ttsxxxx1hp",
"promptTemplate": "你是一个好助手,请遵照{input}要求,以商务风格做出相应回复,要求语言简练,客观详尽。"
}
]
}
},
"evalConfig": {
"evalMode": "model",
"autoModelEvalConfig": {
"apiName": "ERNIE-xxx"
}
}
}
示例代码
# 替换下列示例中的Authorization值、x-bce-date值
curl -i --location 'https://qianfan.baidubce.com/v2/eval?Action=CreateEvalTask'\
--header 'Authorization: bce-auth-v1/047ab241xxxxxx8b1ac/2024-09-20T02:31:36Z/1800/host;x-bce-date/badcdfc045033dfxxxxxxxx11cecfbd7d11ef'\
--header 'Content-Type: application/json'\
--data '{
"taskName": "管控API裁判员评估测试",
"description": "管控API测试",
"evalObjectType": "model",
"evalObjectConfig": {
"evalModelConfig": {
"versionId": "ds-mwmk3mwxxxxxfk",
"storageType": "sysStorage",
"evalModelConfigList": [
{
"modelId": "amv-ttsxxxx1hp",
"promptTemplate": "你是一个好助手,请遵照{input}要求,以商务风格做出相应回复,要求语言简练,客观详尽。"
}
]
}
},
"evalConfig": {
"evalMode": "model",
"autoModelEvalConfig": {
"apiName": "ERNIE-xxx"
}
}
}'
返回响应
请求ID
错误码,错误时返回
错误信息,请求失败时返回
评估任务ID,请求成功时返回
{
"requestId": "df3986c5-70bd-40d9-bedf-6db65ef137d8",
"result": "ame-au4xxxxxv5"
}
错误码
若请求错误,服务器将返回的JSON文本包含以下参数:
| 名称 | 描述 |
|---|---|
requestId |
请求ID |
code |
错误码 |
message |
错误描述信息,帮助理解和解决发生的错误 |
例如错误返回:
{
"requestId":"6ba7b810-xxxc04fd430c8",
"code":"AccessDenied",
"message":"Access denied."
}
更多其他错误码,也可以查看错误码说明。

