获取批量推理任务详情
更新时间:2025-05-12
功能介绍
用于获取批量推理任务详情,如任务名称、任务描述、任务运行状态等。
使用说明
本文API支持通过Python SDK、Go SDK、Java SDK 和 Node.js SDK调用,调用流程请参考SDK安装及使用流程。
权限说明
调用本文API,需符合以下权限要求,权限介绍及分配,请查看角色与权限控制列表、账号创建与权限分配。需具有以下任一权限:
- 完全控制千帆大模型平台的权限:QianfanFullControlAccessPolicy
- 运维操作千帆大模型平台预测服务的权限:QianfanServiceOperateAccessPolicy
- 只读访问千帆大模型平台预测服务的权限:QianfanServiceReadAccessPolicy
SDK调用
调用示例
1import os
2from qianfan import resources
3
4# 通过环境变量初始化认证信息
5# 使用安全认证AK/SK调用,替换下列示例中参数,安全认证Access Key替换your_iam_ak,Secret Key替换your_iam_sk,如何获取请查看https://cloud.baidu.com/doc/Reference/s/9jwvz2egb
6os.environ["QIANFAN_ACCESS_KEY"] = "your_iam_ak"
7os.environ["QIANFAN_SECRET_KEY"] = "your_iam_sk"
8
9resp = resources.console.utils.call_action(
10 # 调用本文API,该参数值为固定值,无需修改;对应API调用文档-请求结构-请求地址的后缀
11 "/v2/batchinference",
12 # 调用本文API,该参数值为固定值,无需修改;对应API调用文档-请求参数-Query参数的Action
13 "DescribeBatchInferenceTask",
14 # 请查看本文请求参数说明,根据实际使用选择参数;对应API调用文档-请求参数-Body参数
15 {
16 "taskId":"infer-9iaxxxwt9mp"
17 }
18)
19print(resp.body)
1package main
2import (
3 "context"
4 "fmt"
5 "os"
6 "github.com/baidubce/bce-qianfan-sdk/go/qianfan"
7)
8func main() {
9 // 使用安全认证AK/SK鉴权,通过环境变量初始化;替换下列示例中参数,安全认证Access Key替换your_iam_ak,Secret Key替换your_iam_sk
10 os.Setenv("QIANFAN_ACCESS_KEY", "your_iam_ak")
11 os.Setenv("QIANFAN_SECRET_KEY", "your_iam_sk")
12
13 ca := qianfan.NewConsoleAction()
14
15 res, err := ca.Call(context.TODO(),
16 // 调用本文API,该参数值为固定值,无需修改;对应API调用文档-请求结构-请求地址的后缀
17 "/v2/batchinference",
18 // 调用本文API,该参数值为固定值,无需修改;对应API调用文档-请求参数-Query参数的Action
19 "DescribeBatchInferenceTask",
20 // 请查看本文请求参数说明,根据实际使用选择参数;对应API调用文档-请求参数-Body参数
21 map[string]interface{}{
22 "taskId":"infer-9iaxxxwt9mp",
23 })
24 if err != nil {
25 panic(err)
26 }
27 fmt.Println(string(res.Body))
28
29}
1import com.baidubce.qianfan.Qianfan;
2import com.baidubce.qianfan.model.console.ConsoleResponse;
3import com.baidubce.qianfan.util.CollUtils;
4import com.baidubce.qianfan.util.Json;
5import java.util.Map;
6
7public class Dome {
8 public static void main(String args[]){
9 // 使用安全认证AK/SK鉴权,替换下列示例中参数,安全认证Access Key替换your_iam_ak,Secret Key替换your_iam_sk
10 Qianfan qianfan = new Qianfan("your_iam_ak", "your_iam_sk");
11
12 ConsoleResponse<Map<String, Object>> response = qianfan.console()
13 // 调用本文API,该参数值为固定值,无需修改;对应API调用文档-请求结构-请求地址的后缀
14 .route("/v2/batchinference")
15 // 调用本文API,该参数值为固定值,无需修改;对应API调用文档-请求参数-Query参数的Action
16 .action("DescribeBatchInferenceTask")
17 // 需要传入参数的场景,可以自行封装请求类,或者使用Map.of()来构建请求Body
18 // Java 8可以使用SDK提供的CollUtils.mapOf()来替代Map.of()
19 // 请查看本文请求参数说明,根据实际使用选择参数;对应API调用文档-请求参数-Body参数
20 .body(CollUtils.mapOf(
21 "taskId","infer-9iaxxxwt9mp"
22 ))
23 .execute();
24
25 System.out.println(Json.serialize(response));
26 }
27}
1import {consoleAction, setEnvVariable} from "@baiducloud/qianfan";
2
3// 使用安全认证AK/SK鉴权,通过环境变量初始化;替换下列示例中参数,安全认证Access Key替换your_iam_ak,Secret Key替换your_iam_sk
4setEnvVariable('QIANFAN_ACCESS_KEY','your_iam_ak');
5setEnvVariable('QIANFAN_SECRET_KEY','your_iam_sk');
6
7async function main() {
8 //base_api_route:调用本文API,该参数值为固定值,无需修改;对应API调用文档-请求结构-请求地址的后缀
9 //action:调用本文API,该参数值为固定值,无需修改;对应API调用文档-请求参数-Query参数的Action
10 //data:请查看本文请求参数说明,根据实际使用选择参数;对应API调用文档-请求参数-Body参数
11 const res = await consoleAction({base_api_route: '/v2/batchinference', action: 'DescribeBatchInferenceTask', data: {
12 "taskId":"infer-9iaxxxwt9mp"
13 }
14 });
15
16 console.log(res);
17}
18
19main();
返回示例
1{
2 "requestId":"1bef3f87-c5b2-4419-936b-50f9884f10d4",
3 "result": {
4 "taskId":"infer-9ia3kc1wt9mp",
5 "name":"name",
6 "description":"description",
7 "endpoint":"http://xxx",
8 "inferenceParams":{
9 "temperature":0.9,
10 "top_p":0.3
11 },
12 "searchCounts":10,
13 "searchTokens":100000,
14 "runStatus":"Running",
15 "inputBosUri":"bos:/user_a/bucket",
16 "outputBosUri":"bos:/user_b/output",
17 "outputDir":"662f7bfb8055376bcd516942",
18 "inputTokenUsage":10000,
19 "outputTokenUsage":10000,
20 "progress":100,
21 "totalDataCount":400,
22 "taskSource":"batchInference",
23 "dataFormat":"default",
24 "creator":"accountName",
25 "createTime":"2024-01-16T09:48:35Z",
26 "finishTime":"2024-01-16T10:48:35Z",
27 "runtime":866,
28 "version":1
29 }
30}
1{
2 "requestId":"1bef3f87-c5b2-4419-936b-50f9884f10d4",
3 "result": {
4 "taskId":"infer-9ia3kc1wt9mp",
5 "name":"name",
6 "description":"description",
7 "endpoint":"http://xxx",
8 "inferenceParams":{
9 "temperature":0.9,
10 "top_p":0.3
11 },
12 "searchCounts":10,
13 "searchTokens":100000,
14 "runStatus":"Running",
15 "inputBosUri":"bos:/user_a/bucket",
16 "outputBosUri":"bos:/user_b/output",
17 "outputDir":"662f7bfb8055376bcd516942",
18 "inputTokenUsage":10000,
19 "outputTokenUsage":10000,
20 "progress":100,
21 "totalDataCount":400,
22 "taskSource":"batchInference",
23 "dataFormat":"default",
24 "creator":"accountName",
25 "createTime":"2024-01-16T09:48:35Z",
26 "finishTime":"2024-01-16T10:48:35Z",
27 "runtime":866,
28 "version":1
29 }
30}
1{
2 "requestId":"1bef3f87-c5b2-4419-936b-50f9884f10d4",
3 "result": {
4 "taskId":"infer-9ia3kc1wt9mp",
5 "name":"name",
6 "description":"description",
7 "endpoint":"http://xxx",
8 "inferenceParams":{
9 "temperature":0.9,
10 "top_p":0.3
11 },
12 "searchCounts":10,
13 "searchTokens":100000,
14 "runStatus":"Running",
15 "inputBosUri":"bos:/user_a/bucket",
16 "outputBosUri":"bos:/user_b/output",
17 "outputDir":"662f7bfb8055376bcd516942",
18 "inputTokenUsage":10000,
19 "outputTokenUsage":10000,
20 "progress":100,
21 "totalDataCount":400,
22 "taskSource":"batchInference",
23 "dataFormat":"default",
24 "creator":"accountName",
25 "createTime":"2024-01-16T09:48:35Z",
26 "finishTime":"2024-01-16T10:48:35Z",
27 "runtime":866,
28 "version":1
29 }
30}
1{
2 requestId:'1bef3f87-c5b2-4419-936b-50f9884f10d4',
3 result: {
4 taskId:'infer-9iaxxx1wt9mp',
5 name:'name',
6 description:'description',
7 endpoint:'http://xxx',
8 inferenceParams:{
9 temperature:0.9,
10 top_p:0.3
11 },
12 searchCounts:10,
13 searchTokens:100000,
14 runStatus:'Running',
15 inputBosUri:'bos:/user_a/bucket',
16 outputBosUri:'bos:/user_b/output',
17 outputDir:'662f7bfb805xxxx516942',
18 inputTokenUsage:10000,
19 outputTokenUsage:10000,
20 progress:100,
21 totalDataCount:400,
22 taskSource:'batchInference',
23 dataFormat:"default",
24 creator:'accountName',
25 createTime:'2024-01-16T09:48:35Z',
26 finishTime:'2024-01-16T10:48:35Z',
27 runtime:866,
28 version:1
29 }
30}
请求参数
名称 | 类型 | 必填 | 描述 |
---|---|---|---|
taskId | string | 是 | 任务ID,说明:只能通过调用创建批量预测任务接口,返回的字段taskId获取 |
返回参数
名称 | 类型 | 描述 |
---|---|---|
requestId | string | 请求ID |
result | object | 请求结果 |
result说明
名称 | 类型 | 描述 |
---|---|---|
taskId | string | 任务ID |
name | string | 任务名称 |
description | string | 任务描述 |
endpoint | string | 推理服务endpoint |
modelId | string | 模型版本ID |
inferenceParams | object | 推理服务参数配置 |
searchCounts | int | 触发搜索次数 |
searchTokens | int | 触发搜索膨胀Tokens数 |
runStatus | string | 任务运行状态 · Queuing:排队中 · Running:运行中 · Done:运行完成 · Stopping:运行终止中 · Stopped:运行终止 · Failed:运行失败 · Expired:运行超时 |
errorCode | int | 任务运行失败时返回的错误码,即当runStatus=Failed,返回该字段 |
errorReason | string | 任务运行失败时返回的错误原因,即当runStatus=Failed,返回该字段 |
inputBosUri | string | 数据输入bos目录 |
outputBosUri | string | 数据输出bos目录,固定输出格式为jsonl |
outputDir | string | 数据输出任务目录 |
inputTokenUsage | int | 成功处理的输入总token数,当任务运行状态为Done时返回该字段 |
outputTokenUsage | int | 成功处理的输出总token数,当任务运行状态为Done时返回该字段 |
progress | int | 已处理的数据条数 |
totalDataCount | int | 总数据条数 |
taskSource | string | 任务来源,说明: · batchInference:批量推理 · modelEval:模型评估 · inferenceDataset:推理数据集 |
dataFormat | string | 数据格式,说明: · default · src_tgt · role |
creator | string | 任务创建人 |
createTime | string | 任务创建时间 |
finishTime | string | 任务结束时间 |
runTime | int | 运行时间 |
version | int | 推理任务接口版本: · 1:推理服务V1版本接口,默认使用V1版本 · 2:推理服务V2版本接口 |