批量推理
更新时间:2025-12-26
功能介绍
批量推理可以⼀次性处理⼤量数据,并对这些数据进⾏统⼀推理预测,最后将结果输出到指定位置。适合⼤批量数据处理、分析的场景等。批量推理的计费仅为实时推理的40%,帮助您有效节省资源消耗成本。
批量推理方式
任务式批量推理batch job
对于大型数据集或者在您不需要立即响应模型预测请求时,推荐使用离线批量推理任务。需要配合百度云对象存储(BOS)使用。
支持模型列表
批量推理支持模型范围可参考模型服务计费
batch job使用指南
1、数据准备
上传文件到BOS对象存储,如您未开通BOS功能,可提前开通。
2、创建批量推理任务
3、查询批量推理任务
- 批量推理列表页可查看任务运行信息
- 点击任务名称或选择操作列的“详情”按钮,即可查看本任务详细信息。
4、下载批量推理结果
点击结果集存储BOS
