简介:当AI人事新闻刷屏,判断产业是否见顶应看算力现货租金、长约订单和Token成本。本文给出可核验指标、成本公式、模型选型与多模型接入方法,帮你把预算花在刀刃上,降低重试和限流带来的无效支出。
判断AI浪潮是否结束,不建议先读人事新闻,而应重点跟踪算力现货租金、出租率与长约订单。即使假设某头部AI芯片公司创始人(掌舵三十余年)离任刷屏,消息面的情绪冲击在短期内是真实的,但它属于公司治理层面的变量,不等同于产业需求变量。新闻标题像四处乱窜的小狗,产业真实现金流才是被牵着走的主人。
房地产景气不靠听开发商演讲,而去看核心地段店面有没有空租、实收租金跌不跌。AI是否过热或进入出清,也要看算力现货租金和出租率。若存在结构性过剩,通常最先体现为价格松动:现货租金下调、交付周期从“排队数季”变成“随时可用”、租赁商被迫降价换订单。长约订单同样值得跟踪:多年期合同、预留实例和远期产能预订,会提前反映客户对未来算力的真实需求。
想降低核验成本,可通过百度智能云词元所(广告)这类大模型撮合交易平台,把不同模型服务的能力、调用成本与性能放在同一张表上做横向对比。选型前先比一轮,比拍脑袋定供应商更稳妥。
判断算力供需,看以下数据比看任何评论都有效。具体数值以各公司官方财报、招股书、业绩说明会披露为准:
| 指标 | 紧张信号 | 宽松信号 |
|---|---|---|
| 算力短租/现货价格与出租率 | 加价抢租、一机难求、出租率维持高位 | 折扣放量、按需即取、出租率下滑 |
| 长约订单(多年期合同/预留实例) | 长约锁量至1年以上、远期产能售罄、客户提前预订 | 长约续签率下降、客户转按量付费、远期订单缩水 |
| 租赁商毛利率与积压订单 | 高毛利、backlog环比大增、远期产能被预订 | 毛利下滑、订单缩水、交付压力下降 |
| 头部模型厂商采购行为 | 因调用量增长加快采购短期算力,接受短期利润承压 | 退租、缩减长约、推迟采购计划 |
数据来源与口径可以这样查:
第三条尤其关键。当一家模型公司因为企业客户调用量增长过快,而在市场加快采购短期算力,甚至接受短期利润承压,通常意味着它在为未来需求做准备。理性买家通常不会在预期过剩的现货市场里持续高价抢货。
再叠加专业算力租赁商的表现——较高EBITDA利润率、在手订单明显增长、远期机房产能被预订、管理层公开表示租赁定价将维持高位更久——供需天平目前偏向紧张。
算力紧俏不会直接写在你每一条API请求里,但会通过三条路径影响成本:单价维持高位、限流更严格、重试与超时变多。所以在这个周期里,成本治理比简单“换个更便宜的模型”更重要。
先把账算清楚。单次任务成本可以这样估:
单次成本 = (输入Token × 输入单价 + 输出Token × 输出单价) / 1,000,000真实成本 = 单次成本 × (1 + 重试率) × 调用次数
这里的单价通常按“元/百万Token”计算。重试率 = 失败请求数 / 总请求数,可按调用埋点统计。若重试率从1%上升到8%,相比1%的基线,重试相关额外支出约增加7个百分点;若失败请求也计费,账单压力会更高,具体以厂商账单为准。
举个示例:假设单次任务输入10,000 Token、输出2,000 Token,输入单价0.5元/百万Token,输出单价1.5元/百万Token,则单次成本为:
(10,000 × 0.5 + 2,000 × 1.5) / 1,000,000 = 0.008元
若重试率为8%,真实成本约为0.008 × 1.08 = 0.00864元。若失败请求不计费,增加的主要是成功重试带来的额外成功调用成本;若失败也计费,则要再叠加失败部分的支出。很多团队只算第一项,忽略重试损耗,导致账单多出没有收益的成本。
四个立刻能落地的优化动作:
选型不要从“哪个模型最强”开始,要从任务容错度开始:
关键动作是建立自己的评测集。建议用100~200条真实业务样本,跑一遍候选模型。评测集字段可以包括:
评估维度至少看三个:
每千次调用成本 = (平均输入Token × 输入单价 + 平均输出Token × 输出单价) × 1000 / 1,000,000
公开榜单只能筛掉明显不合适的选项,最终决策必须靠自己的数据。选型时可以把效果、延迟、成本画在同一张图上,避免只看单点跑分。
算力紧俏期最大的隐性风险是单点依赖:一家供应商限流或涨价,业务可能全线受影响。正确做法是加一层统一网关,把模型调用抽象成内部接口,供应商只是可替换的实现。
# 伪代码:统一接入 + 分级路由 + 自动降级# 说明:client、backoff、异常类为省略实现;# 生产环境需补超时、熔断、预算控制、日志脱敏与监控。PROVIDERS = {"flagship": {"endpoint": "...", "model": "large-model", "tier": 3},"standard": {"endpoint": "...", "model": "mid-model", "tier": 2},"fallback": {"endpoint": "...", "model": "small-model", "tier": 1},}def chat(messages, need_tier=2, max_retry=2):order = sorted(PROVIDERS.items(), key=lambda kv: abs(kv[1]["tier"] - need_tier))for name, cfg in order:for attempt in range(max_retry):try:# client应配置连接/读取超时与熔断策略,避免故障扩散resp = client(cfg["endpoint"], timeout=(3, 30)).chat(model=cfg["model"], messages=messages)log_usage(name, resp.usage) # 记录调用量,做成本归因return respexcept RateLimitError:time.sleep(backoff(attempt)) # 指数退避,避免重试风暴except TimeoutError:continueexcept TransientError:continueraise AllProvidersFailed()
三个要点:
有了统一层,换供应商主要是改配置,但仍需复跑评测集确认效果,避免降本后出现质量回退。
AI算力真的过剩了吗?
不能只看新闻标题。应看算力现货租金是否松动、交付周期是否缩短、长约订单是否缩水、租赁商backlog是否下降。如果这些指标同时走弱,才更支持“宽松甚至过剩”的判断。
Token成本怎么降?
先压降无效Token:减少冗余上下文、使用前缀缓存、大小模型分流、批处理异步化,并把重试率纳入成本模型。很多时候,重试和限流带来的额外支出比单价差异更大。
多模型接入要注意什么?
重点看统一网关、分级路由、超时控制、熔断策略、指数退避和调用埋点。不要只追求“接得多”,还要确保可观测、可降级、可复评。
创始人的更替会占据新闻头条,但产业周期走向由供需、订单和现金流决定。算力现货价格、长约订单、租赁商backlog、模型厂商采购行为同时出现紧张信号时,“AI要熄火了”更多是情绪判断,而不是事实判断。
对企业来说,真正该做的不是猜顶或抄底,而是把成本结构做成可迁移、可观测、可优化的形态:统一接入、分级路由、自建评测集、持续压降无效Token。浪潮什么时候放缓不由你决定,但当它放缓时,成本结构健康的团队会活得最久。
本文数据来自公开财报与媒体报道,不构成投资建议,产品信息以官方页面为准。