简介:测试时扩展让模型在推理阶段“多想一会儿”,但并行采样、序列修正与混合策略各有边界,模型还分化为短视界与长视界两类。本文系统对比三类策略的机制差异、计算效率与适用条件,结合模型性格、问题难度与预算给出条件化选型建议,帮助读者避开“一种策略通吃”的误区,合理分配推理算力。
如果说大模型的预训练是一场拼算力、拼数据的军备竞赛,那么测试时扩展(Test-time Scaling,TTS)更像是一场发生在推理阶段的即时战略游戏:同样的模型、同样的问题,如何分配额外的推理计算,直接决定最终答案的质量。
当前业界的基本共识是:让模型在回答问题前“多想一会儿”,往往能得到更好的结果。这听起来像一份免费午餐——只要推理时动态投入更多计算,模型的表现似乎就能原地起飞。但问题随之而来:
本文对比的对象正是三类主流测试时扩展策略——并行策略、序列策略、混合/元策略,并进一步对比由此揭示的短视界模型与长视界模型两类“推理性格”。文章将围绕它们的机制、相同点、核心差异、适用场景与选型依据展开,帮助读者建立自己的决策框架。
1. 并行策略(Parallel TTS):聚合多个独立采样的推理路径来提升性能。典型做法包括:对多样的推理路径进行采样,选择出现频率最高的最终答案(自洽性投票思想);或者采样 n 条路径后按某种验证信号择优(Best-of-n 思路);也有带早停机制的并行方案——并行运行 k 条推理链,根据已完成路径的比例提前终止,避免浪费算力。
2. 序列策略(Sequential TTS):通过迭代式的修正、重启或回溯来扩展推理深度。思维链提示是基础理念,后续工作探索了通过试错迭代、语言层面的自我反思进行修正。其本质是把计算预算花在“沿一条路径不断打磨”上。
3. 混合/元策略(Hybrid / Meta):不预设固定打法,而是根据问题难度、模型类型和计算预算动态选择或组合上述策略,相当于一个策略调度层。
4. 短视界 vs 长视界模型:系统性评测(覆盖从 7B 到 235B 参数量的多个开源大模型、多个推理数据集、数百亿级 token 的生成量)发现,模型在测试时扩展中的表现明显分化为两大阵营:
三类策略并非对立关系,它们共享同一套底层逻辑:
换句话说,它们不是“谁替代谁”,而是同一个预算分配问题的三种解法。
| 对比维度 | 并行策略 | 序列策略 | 混合/元策略 |
|---|---|---|---|
| 计算组织方式 | 多条独立路径同时采样,横向铺开 | 单路径迭代修正/重启/回溯,纵向深入 | 按条件动态切换或组合 |
| 收益来源 | 答案分布的多样性,投票抵消单条路径的随机错误 | 对中间推理的修正,减少系统性错误 | 同时利用多样性与修正能力 |
| 对模型性格的敏感度 | 短视界模型收益更明显,但易饱和 | 长视界模型收益更明显 | 需要先做模型画像与难度估计 |
| 延迟特征 | 墙钟延迟低(可并发),token 消耗高 | 串行迭代,墙钟延迟随轮次线性增长 | 取决于调度决策,波动较大 |
| 容错方式 | 多数投票/验证信号择优 | 自我反思发现错误并重试 | 失败时可在并行与序列间回退 |
| 工程复杂度 | 低,易并行化、易早停 | 中,需设计修正与终止条件 | 高,需要难度预估与策略路由 |
| 典型失效场景 | 模型答案高度一致地错,投票无效 | 模型陷入重复修正的循环,越改越偏 | 调度判断错误,预算错配 |
从表中可以看到几个关键的技术差异来源:
第一,错误类型决定策略有效性。 并行投票能消除的是“随机性错误”——单条路径偶发的跑偏。如果模型对某类问题存在系统性的误解,所有路径会一致地错,投票机制形同虚设。序列修正针对的是“过程性错误”,但前提是模型具备通过语言反思识别自身错误的能力,否则修正只是噪声。
第二,饱和曲线不同。 短视界模型的并行收益随 k 增大快速见顶,继续加路径是纯粹浪费;长视界模型则可能在浅层采样下表现平平,一旦给足推理深度才显现优势。这解释了为什么“一种策略通吃”的幻想不成立:同样的预算,投给不同性格模型的边际收益完全不同。
第三,成本结构不同。 并行策略消耗 token 多但可并发执行,适合对延迟敏感、算力可横向铺开的场景;序列策略 token 消耗相对可控,但串行轮次直接推高响应延迟,适合离线或异步任务。
给出几条条件化、可落地的判断:
回到对比主题:并行、序列、混合三类测试时扩展策略没有普遍最优解,它们的优劣分别来自对“随机性错误”和“过程性错误”的不同覆盖能力,以及与模型“短视界/长视界”性格的匹配程度。短视界模型适合横向铺开的并行投票但要警惕饱和,长视界模型适合纵向深入的序列修正但要付出延迟代价,而元策略用工程复杂度换取了预算分配的灵活性。
对开发者和架构师而言,真正可迁移的决策思路只有一条:把测试时扩展当作预算分配问题,而不是方法选择问题——先给模型画像,再看问题难度,最后按边际收益曲线花掉每一分推理算力。