Coding Plan 产品升级公告
概述
为了更好的兼容 Anthropic 生态,降低您的使用或迁移成本,我们将于 6月4日 20:00 对 Anthropic API 返回参数 input_tokens 的含义进行更新,以使其与 Anthropic 的定义保持一致。
变更内容
| 参数 | 变更前含义 | 变更后含义 |
|---|---|---|
| usage.input_tokens | 用户输入的所有 prompt 总 tokens 数量,包含缓存命中 tokens | 未命中缓存部分的输入tokens 数量 |
变更后,input_tokens 的计算方式为:
input_tokens = prompt_tokens - cache_read_input_tokens
其中:
prompt_tokens:用户输入的所有 prompt 总 tokens 数量cache_read_input_tokens:命中缓存的 tokens 数量
影响
- 兼容性: 此次更新提高了与 Anthropic 生态的兼容性,降低了用户迁移成本。
- 逻辑修改: 对于开启了缓存功能且使用 input_tokens 进行业务逻辑处理的用户,需要修改其代码以适应新的字段含义。
- 计费:本次变更不影响计费。当请求命中缓存时,命中的输入tokens 按 cache_read_input_tokens计费,折扣比例因模型不同而有差异,详情可查看推理服务计费;未被命中的输入tokens 按标准 input_token计费。输出tokens按原价计费。
迁移指南
- 检查代码: 检查所有使用 input_tokens 参数的代码,确保其按正确的含义进行处理。
问题与支持
如果在更新过程中遇到任何问题,请联系我们的支持团队。 感谢您的理解与支持!
textEditor
1xxxxxxxxxx
1### 概述
2
3为了更好的兼容 Anthropic 生态,降低您的使用或迁移成本,我们将于 **6月4日 20:00** 对 [Anthropic API](https://cloud.baidu.com/doc/qianfan-docs/s/6mh3e6gjp) 返回参数 `input_tokens` 的含义进行更新,以使其与 Anthropic 的定义保持一致。
1### 变更内容
2
3|参数|变更前含义|变更后含义|
4
5|-|-|-|
6
7|usage.input_tokens|用户输入的所有 prompt 总 tokens 数量,包含缓存命中 tokens|未命中缓存部分的输入tokens 数量|
1变更后,input_tokens 的计算方式为:
1`input_tokens = prompt_tokens - cache_read_input_tokens
2
3`
1其中:
1* `prompt_tokens`:用户输入的所有 prompt 总 tokens 数量
2
3* `cache_read_input_tokens`:命中缓存的 tokens 数量
1### 影响
2
3* 兼容性: 此次更新提高了与 Anthropic 生态的兼容性,降低了用户迁移成本。
4
5* 逻辑修改: 对于开启了缓存功能且使用 input_tokens 进行业务逻辑处理的用户,需要修改其代码以适应新的字段含义。
6
7* 计费:本次变更**不影响**计费。当请求命中缓存时,命中的输入tokens 按 cache_read_input_tokens计费,折扣比例因模型不同而有差异,详情可查看[推理服务计费](https://cloud.baidu.com/doc/qianfan/s/wmh4sv6ya);未被命中的输入tokens 按标准 input_token计费。输出tokens按原价计费。
1### 迁移指南
2
3* 检查代码: 检查所有使用 input_tokens 参数的代码,确保其按正确的含义进行处理。
1### 问题与支持
2
3如果在更新过程中遇到任何问题,请联系我们的支持团队。 感谢您的理解与支持!
Markdown所见即所得
插入链接
URL
链接文本
确认 取消
插入图片
!网信办要求所有AI生成的图都需要增加明显的【AI生成】水印,请上传时自查
文件URL
图片网址
选择图片文件
说明
确认 取消
添加行 添加列 删除行 删除列
左对齐 居中对齐 右对齐
删除表格
1cabnfaccesslogactionscriptadaangelscriptapacheapplescriptarcadecpparduinoarmasmxmlasciidocaspectjautohotkeyautoitavrasmawkaxaptabashbasicbnfbrainfuckcalcapnprotoceyloncleanclojureclojure-replcmakecoffeescriptcoqcoscrmshcrystalcscspcssdmarkdowndartdelphidiffdjangodnsdockerfiledosdsconfigdtsdustebnfelixirelmrubyerberlang-replerlangexcelfixflixfortranfsharpgamsgaussgcodegherkinglslgmlgogologradlegroovyhamlhandlebarshaskellhaxehsphtmlbarshttphyinform7iniirpf90isbljavajavascriptjboss-clijsonjuliajulia-replkotlinlassoldifleaflesslisplivecodeserverlivescriptllvmlslluamakefilemathematicamatlabmaximamelmercurymipsasmmizarperlmojoliciousmonkeymoonscriptn1qlnginxnimrodnixnsisobjectivecocamlopenscadoxygeneparser3pfpgsqlphpplaintextponypowershellprocessingprofileprologpropertiesprotobufpuppetpurebasicpythonqqmlrreasonmlribroboconfrouterosrslruleslanguagerustsasscalaschemescilabscssshellsmalismalltalksmlsqfsqlstanstatastep21stylussubunitswifttaggerscriptyamltaptcltexthrifttptwigtypescriptvalavbnetvbscriptvbscript-htmlverilogvhdlvimx86asmxlxqueryzephir
CodeBlock Editor选择语言
1xxxxxxxxxx
确认 取消
评价此篇文章
