查询支持批量推理模型清单

更新时间：2024-12-23

接口描述

本接口用于查询支持批量推理模型清单。

权限说明

调用本文API，需符合以下权限要求，权限介绍及分配，请查看角色与权限控制列表、账号创建与权限分配。需具有以下任一权限：

完全控制千帆大模型平台的权限：QianfanFullControlAccessPolicy
运维操作千帆大模型平台预测服务的权限：QianfanServiceOperateAccessPolicy
只读访问千帆大模型平台预测服务的权限：QianfanServiceReadAccessPolicy

鉴权说明

调用本文API，使用“基于安全认证AK/SK”进行签名计算鉴权，即使用安全认证中的Access Key ID 和 Secret Access Key进行鉴权，具体鉴权认证机制参考HTTP调用鉴权说明。

请求结构

Bash

POST /v2/batchinference?Action=DescribeBatchInferenceModel HTTP/1.1
Host: qianfan.baidubce.com
Authorization: authorization string
Content-Type: application/json

{}

请求头域

除公共头域外，无其它特殊头域。

请求参数

Query参数

名称	类型	必填	描述
Action	string	是	方法名称，固定值DescribeBatchInferenceModel

响应头域

除公共头域外，无其它特殊头域。

响应参数

名称	类型	描述
requestId	string	请求ID
result	object[]	请求结果

result说明

名称	类型	描述
commonModelList	List<modelItem>	预置模型（服务）列表
customModelList	List<modelItem>	定制模型列表

modelItem说明

名称	类型	描述
modelId	string	模型ID
modelName	string	模型名称
modelVersionList	object[]	模型版本列表
modelVersionId	string	模型版本ID
modelVersionName	string	模型版本名称

请求示例

bash

curl --location 'https://qianfan.baidubce.com/v2/batchinference?Action=DescribeBatchInferenceModel' \
--header 'Authorization: bce-auth-v1/ALTxxxxxxGVgO/2024-11-29T06:37:11Z/1800/host;x-bce-date/f186xxxxxxx41e313' \
--header 'Content-Type: application/json' \
--data '{}'

响应示例

JSON

{
	"requestId": "0df5ce1e-4ff3-4633-81b9-bce594d18927",
	"result": {
		"commonModelList": [{
			"modelId": "am-xdxxxxxxxu",
			"modelName": "Aquila-7B",
			"modelVersionList": [{
				"modelVersionId": "amv-byxxxxxxxiw",
				"modelVersionName": "AquilaChat-7B"
			}]
		}, {
			"modelId": "am-u7xxxxxxxsq",
			"modelName": "BLOOMZ-7B",
			"modelVersionList": [{
				"modelVersionId": "amv-tzxxxxxxxp",
				"modelVersionName": "BLOOMZ-7B"
			}, {
				"modelVersionId": "amv-duxxxxxxzq",
				"modelVersionName": "Qianfan-BLOOMZ-7B-compressed"
			}]
		}],
		"customModelList": null
	}
}

错误码

若请求错误，服务器将返回的JSON文本包含以下参数：

名称	描述
requestId	请求ID
code	错误码
message	错误描述信息，帮助理解和解决发生的错误

例如错误返回：

{
    "requestId":"6ba7b810-xxxc04fd430c8",
    "code":"AccessDenied",
    "message":"Access denied."
}

更多其他错误码，也可以查看错误码说明。

删除批量推理任务

TPM配额管理

百度智能云

千帆大模型服务与开发平台ModelBuilder