Anthropic API 返回参数input_tokens含义更新
更新时间:2026-05-26
概述
为了更好的兼容 Anthropic 生态,降低您的使用或迁移成本,我们将于 6月4日 20:00 对 Anthropic API 返回参数 input_tokens 的含义进行更新,以使其与 Anthropic 的定义保持一致。
变更内容
| 参数 | 变更前含义 | 变更后含义 |
|---|---|---|
| usage.input_tokens | 用户输入的所有 prompt 总 tokens 数量,包含缓存命中 tokens | 未命中缓存部分的输入tokens 数量 |
变更后,input_tokens 的计算方式为:
input_tokens = prompt_tokens - cache_read_input_tokens
其中:
prompt_tokens:用户输入的所有 prompt 总 tokens 数量cache_read_input_tokens:命中缓存的 tokens 数量
影响
- 兼容性: 此次更新提高了与 Anthropic 生态的兼容性,降低了用户迁移成本。
- 逻辑修改: 对于开启了缓存功能且使用 input_tokens 进行业务逻辑处理的用户,需要修改其代码以适应新的字段含义。
- 计费:本次变更不影响计费。当请求命中缓存时,命中的输入tokens 按 cache_read_input_tokens计费,折扣比例因模型不同而有差异,详情可查看推理服务计费;未被命中的输入tokens 按标准 input_token计费。输出tokens按原价计费。
迁移指南
- 检查代码: 检查所有使用 input_tokens 参数的代码,确保其按正确的含义进行处理。
问题与支持
如果在更新过程中遇到任何问题,请联系我们的支持团队。 感谢您的理解与支持!
评价此篇文章
