新建我的模型版本
本接口用于新建我的模型版本。
权限说明
调用本文API,需符合以下权限要求,权限介绍及分配,请查看角色与权限控制列表、账号创建与权限分配。需具有以下任一权限:
- 完全控制千帆大模型平台的权限:QianfanFullControlAccessPolicy
- 完全控制千帆大模型平台模型调优的权限:QianfanModelTuningFullControlAccessPolicy
鉴权说明
调用本文API,使用"基于安全认证AK/SK"进行签名计算鉴权,即使用安全认证中的Access Key ID 和 Secret Access Key进行鉴权,具体鉴权认证机制参考HTTP调用鉴权说明。
请求参数
方法名称,固定值CreateCustomModel
模型版本归属的模型ID,示例:am-gh0azfeb9adu,说明:通过以下任一方式获取该字段值:
· 方式一:调用新建获取我的模型列表接口,返回的modelSetId字段获取
· 方式二:在控制台-我的模型查看
模型版本描述,长度为 [0, 300]
版本来源,可选值如下:
· Train:训练模型发布
· Import:外部导入模型发布。
当sourceType=Train时,此字段必填
显示子属性
隐藏子属性
训练任务ID
选择step发布时填写此字段
当sourceType=Import时,此字段必填
显示子属性
隐藏子属性
bucket名称
object路径
模型格式,可选值如下:
· HuggingFace.Transformers:HF导入模型
· Safetensors:文生图模型。
输入输出模式,可选值如下:
· chat:对话模式
· completion:续写模式
· Text-to-Image:文生图模式。
对话模型平台预置对话模板,说明:
(1)该字段仅导入HF模型有效
(2)该字段与customSpec字段不能同时使用,只能选择其中一个
显示子属性
隐藏子属性
历史对话模板,长度限制[1,200]
最新对话模板,长度限制[1,200]
prompt模板,长度限制[0,300]
对话模型自定义对话模板,说明:
(1)该字段仅导入HF模型有效
(2)该字段与chatConf字段不能同时使用,只能选择其中一个
显示子属性
隐藏子属性
自定义配置文件展示名称,长度限制[1,200]
说明:
(1)该字段仅导入HF模型有效
(2)transformer版本,目前支持4.34.0、4.36.2、4.39.3和4.40.2
说明:
(1)该字段仅导入HF模型可填
(2)vLLM版本,目前支持0.3.2、0.4.0
是否开启Prompt自动拼接,说明:该字段仅导入HF模型有效
基础模型版本名称,说明:若名称为其他,该参数值写为HuggingFace
量化压缩配置
显示子属性
隐藏子属性
压缩时的采样策略,
(1)当导入HF模型,且推理引擎为vLLM时,该字段有效
(2)可选值:
· 多项式采样:multinomialSampling
· 束搜索:beamSearch
· 贪心搜索 greedySearch。
返回序列数量,当导入HF模型可填,采样策略选择multinomialSampling且推理引擎为vLLM时可填,范围为1~15
束数量,当导入HF模型,该字段有效,取值范围2-15
POST /v2/model?Action=CreateCustomModel HTTP/1.1
HOST: qianfan.baidubce.com
Authorization: authorization string
Content-Type: application/json
{
"modelSetId": "am-ashdagwfy234",
"sourceType": "Train",
"trainMeta": {
"taskId": "task-sdvsdfbhjsdfb",
"step": 50
}
}
示例代码
curl -i --location 'https://qianfan.baidubce.com/v2/model?Action=CreateCustomModel'\
--header 'Authorization: bce-auth-v1/f0ee7axxxx/2023-09-19T13:42:13Z/180000/host;x-bce-date/9a8cfb8ee58a8f44a21a5xxxx74525543'\
--header 'x-bce-date: 2023-09-19T13:37:10Z'\
--header 'Content-Type: application/json'\
--data '{
"modelSetId": "am-ashdagwfy234",
"sourceType": "Train",
"trainMeta": {
"taskId": "task-sdvsdfbhjsdfb",
"step": 50
}
}'
curl -i --location 'https://qianfan.baidubce.com/v2/model?Action=CreateCustomModel' \
--header 'Authorization: bce-auth-v1/f0ee7axxxx/2023-09-19T13:42:13Z/180000/host;x-bce-date/9a8cfb8ee5xxxxe374525543' \
--header 'x-bce-date: 2023-09-19T13:37:10Z' \
--header 'Content-Type: application/json' \
--data '{
"modelSetId":"am-ih84wp37cizi",
"sourceType":"Import",
"importMeta":{
"bucket":"test",
"objectPath":"demoModel",
"modelFormat":"HuggingFace.Transformers",
"modelApplicationType":"chat",
"transformerVersion":"4.36.2",
"chatConf": {
"historyQATemplate": "\\n\\nUser: {question} \\nAssistant: {answer}\\n",
"latestQuestionTemplate": "\\n\\nUser: {question} \\nAssistant:",
"promptTemplate": "你是一个对话机器人,根据下文输入完成回答\n### 输入:\n{input}\n### 回答: "
}
}
}
curl -i --location 'https://qianfan.baidubce.com/v2/model?Action=CreateCustomModel'\
--header 'Authorization: bce-auth-v1/f0ee7axxxx/2023-09-19T13:42:13Z/180000/host;x-bce-date/9a8cfb8ee58a8f44a21a52640015de61bc55ca2e6d8cc23d080016e374525543'\
--header 'x-bce-date: 2023-09-19T13:37:10Z'\
--header 'Content-Type: application/json'\
--data '{
"modelSetId":"am-gd36cmmd2urx",
"sourceType":"Import",
"importMeta":{
"bucket":"test",
"objectPath":"xxxx",
"modelFormat": "HuggingFace.vLLM",
"basicModelName":"DeepSeek-R1-Distill-Qwen-32B",
"modelApplicationType":"chat",
"vLLMVersion":"0.6.3"
}
}
'
返回响应
请求ID
显示子属性
隐藏子属性
模型ID
模型版本ID
{
"requestId": "6ba7b810-9dad-11d1-80b4-00c04fd430c8",
"result": {
"modelSetId": "am-5sxpz4xn25uw",
"modelId": "amv-21qxxr97z8fp"
}
}
错误码
若请求错误,服务器将返回的JSON文本包含以下参数:
| 名称 | 描述 |
|---|---|
requestId |
请求ID |
code |
错误码 |
message |
错误描述信息,帮助理解和解决发生的错误 |
例如错误返回:
{
"requestId":"6ba7b810-xxxc04fd430c8",
"code":"AccessDenied",
"message":"Access denied."
}
更多其他错误码,也可以查看错误码说明。
评价此篇文章
