批量预测
更新时间:2024-04-12
概述
对实时性要求不高的业务场景,通常会使用模型对数据集进行周期性的批量预测。批量预测请求当前为异步请求,支持直接从模型资源请求批量预测,而无需将模型部署到端点。
如您在API侧进行可创建批量预测任务和获取批量预测任务详情。
计费明细
服务名称 | 服务内容 | 现价(限时优惠) |
---|---|---|
ERNIE 4.0批量预测 | Ernie-4.0-8K批量推理服务,按照成功调用的输入+输出tokens进行计费 | 输入:¥0.048元/千tokens 输出:¥0.048元/千tokens |
ERNIE 3.5批量预测 | Ernie-3.5-8K批量推理服务,按照成功调用的输入+输出tokens进行计费 | ¥0.0048元/千tokens |
ERNIE-3.5-8K-0205批量预测 | Ernie-3.5-8K-0205批量推理服务,按照成功调用的输入+输出tokens进行计费 | ¥0.0048元/千tokens |
价格费用举例
训练总价=大模型批量预测输入(单价) x 评估数据集tokens + 大模型批量预测输出(单价) x 推理结果集tokens
示例1:使用ERNIE 4.0批量预测,新建推理结果集
设定:评估数据集tokens=10,000,评估结果集tokens=100,000
批量推理总价=0.048(单价) x 10千tokens + 0.048(单价) x 100千tokens=5.28 元
示例2:使用Ernie-3.5-8K-0205批量预测,新建推理结果集
设定:评估数据集tokens=10,000,评估结果集tokens=100,000
批量推理总价=0.0048(单价) x 10千tokens + 0.0048(单价) x 100千tokens=0.528 元