简介:本文对比按Token计费与多单位计费两种方式,梳理它们的计量逻辑、成本结构、适用场景和迁移注意事项。读者可以了解峰谷计价、缓存优化等调整手段的作用,并掌握按请求链路和用量特征选择计费方式的方法。
大模型调用成本在过去两年波动明显。2024年5月,某互联网企业率先将中文模型的标准计费单价下调至每千Token 0.0008元,较行业均价低约99.3%。随后,其他厂商陆续调整价格策略,行业出现明显的价格竞争。进入2026年,多家模型厂商和云服务商相继上调Token价格,同时引入峰谷计价、缓存优化、算力分层等机制。同一年4月,账单的计量单位不再只有Token,多种单位开始并存。
对技术负责人而言,过去比较每千Token单价就能粗略估算成本。现在,相同的预算可能对应完全不同的实际支出。因此需要理解两类计费方式的本质差异,才能判断预算、架构和业务负载之间是否匹配。
本文对比的两类对象如下。
Token计费指按模型处理的词元数量收费。Token是模型切分文本后的基本单位。中文、英文和代码的切分比例不同,同样长度的文字可能对应不同的Token数。计费通常区分输入Token和输出Token,两者单价往往不同。部分服务还区分缓存命中与未命中的输入。
Token计费把模型的推理消耗转化为可量化的用量,使费用与实际计算量大致挂钩。
多单位计费指在同一份账单中,同时使用Token、调用次数、时长、算力规格、存储量、带宽等多种单位计费。例如,模型推理按Token计量,向量检索按请求次数计量,专用算力按占用时长计量,模型训练或微调按算力小时计量。
AI应用通常由模型、检索、存储、网络等多个组件构成。单一Token单位无法覆盖全部资源消耗,多单位计费正是为此而出现的。
两类计费方式在以下方面具有共同基础。
Token计费的账单结构相对简单,通常只有输入和输出两项。多单位计费的账单包含多个条目,每个条目有独立的计量口径。前者便于横向比较单价,后者需要逐项拆解,才能得到总成本。
计量口径的差异会影响同一业务的成本。假设一次请求携带较长的上下文,Token计费的费用会随上下文长度增长。在多单位计费中,长上下文通常只影响Token条目,检索和存储条目的费用保持不变。因此,分析成本时需要区分哪一类条目真正随业务量增长。
Token计费的成本与生成内容的长度直接相关。生成长度在请求发出前难以确定,预算测算因此存在误差。多单位计费会把部分成本转为固定占用或规格费用,例如预留算力。这类费用更稳定,但资源闲置时仍需付费。
在用量波动大的场景中,按量计费更灵活。在用量稳定且可预测的场景中,固定规格类费用更容易纳入预算管理。
峰谷计价按时段设定不同单价,高峰时段较贵,低谷时段较便宜。它适合可以错峰执行的任务,例如离线摘要、批量标注和报表生成。对于必须实时响应的在线服务,峰谷差价的收益有限,且高峰时段的响应延迟可能影响用户体验。
算力分层按模型规格或服务等级设定不同价格。高规格模型能力更强,单价也更高。分层设计让业务可以把简单任务交给低规格模型,把复杂任务交给高规格模型,从而按任务难度分配成本。
缓存机制通过复用重复的上下文前缀减少重复计算。当请求的前缀与历史请求一致时,系统可以跳过部分计算,部分服务对命中的输入按较低单价计费。要利用缓存,应把系统指令、固定文档、知识片段等稳定内容放在请求前部,并保持前缀一致。具体的折扣幅度和命中规则以各服务商的文档为准,本文不作具体数值假设。
Token计费的核算相对直接,可以按模型或接口统计。多单位计费需要把各组件的用量汇总到同一业务维度,才能得到单次请求或单个用户的真实成本。这通常要求统一的标签体系、日志格式和账单导出机制。
Token计费的接入一般只需配置模型调用参数和访问凭证,改造量较小。多单位计费如果涉及专用算力、向量存储、独立检索服务,架构设计和部署工作量更大。迁移时,需要同