常见问题
关于平台ERNIE系列模型刊例价调整
Q:价格调整对我会有什么影响?
A:本次价格调整涉及千帆 ModelBuilder ERNIE-4.0-8K、ERNIE-4.0-Turbo-8K、ERNIE-3.5-8K和ERNIE-3.5-128K四个系列模型的刊例价价格调整,调整后,刊例价降低,客户使用产品成本更低,涉及的付费模式包括:
- by tokens后付费模式
- tokens包预付费模式
Q:本次降价是长期的吗?
A:本次降价无时间限制,长期有效。
Q:模型降价后的新价格何时生效?
A:2024年9月27日00:00分新价格生效。
Q:我在降价前购买的 Tokens 预付费包,降价之后有补偿吗?
A:没有补偿,如果您在降价前7天内购买tokens包,且tokens未使用,可以申请全额退款。
关于搜索增强独立计费
Q:什么是搜索增强?
A:基于用户query,大模型自动判断是否触发搜索引擎查询相关文献,如果触发搜索引擎,则基于搜索结果进行总结回答。如果不触发搜索引擎,大模型直接回答。
Q:如何使用搜索增强?
A:ERNIE3.5、ERNIE4.0,ERNIE4.0 turbo 系列模型接口(包含Latest版本、preivew版本、带日期退役版本)支持搜索增强, 并且默认开启。
Q:搜索增强如何收费?
A:搜索增强包括两部分费用:
- 触发搜索按次收费:对大模型的调用,如果触发搜索增强能力,该次调用额外收取0.008元/次的费用;若没有触发,不产生额外费用,2024年10月31日起正式商用计费,在接口开通付费时自动开通此计费项。在大模型推理接口返回的
usage.search_count
当中体现。 - 触发搜索增强带来的Search Tokens收费:搜索增强能力会通过百度的搜索能力给大模型提供更多的文本输入,导致输入模型tokens增加,所以一旦触发搜索,客户的输入tokens也会相应增加。在大模型推理接口返回的
usage.prompt_tokens_details.search_tokens
当中体现。 - 完整可以参考文档:触发搜索token扩大及独立按次计费
Q:为什么搜索增强需要付费?
A:千帆大模型平台上的ERNIE 3.5、ERNIE 4.0 Turbo、ERNIE 4.0系列模型,搜索增强能力按次一直免费对外提供服务,从2024年10月31日起,正式恢复商业化收费。
Q:我不想使用搜索增强,如何关闭?
A:搜索增强默认开启,如果不想使用搜索增强,可以通过入参"disable_search": true
进行关闭。该参数在ERNIE3.5、ERNIE4.0、ERNIE4.0 Turbo 系列模型接口(包含Latest版本、preivew版本、带日期退役版本)当中生效。请求示例如下。查看示例接口文档。
curl --location 'https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie-3.5-8k-preview?access_token={access_token}' \
--header 'Content-Type: application/json' \
--data '{
"messages": [
{
"role": "user",
"content": "24年中国奥运会奖牌数是多少"
}
],
"disable_search": true
}'
Q:计费模式调整后我使用同样的query,需要支付的价格会变高吗?
A:如果触发搜索增强,价格会变高,如果不触发搜索增强,价格保持不变。