什么是连续自回归语言模型中的温度控制

一、概念定义：温度参数在语言模型中的原本含义

在讨论连续自回归语言模型之前，有必要先明确“温度参数”在主流语言模型推理中的通用定义。

温度参数，通常记为T，是作用于模型输出概率分布上的一个缩放因子。在采用离散词汇表、并通过softmax函数将logits转换为概率分布的语言模型中，温度的作用方式可以概括为：

• T < 1：输出概率分布更加尖锐，高概率项被进一步放大，模型倾向于选择它“最有把握”的结果，输出更确定、更收敛；
• T > 1：输出概率分布更加平缓，低概率项被相对抬升，模型有更大概率采样到原本不那么靠前的候选，输出更多样、更发散；
• T = 1：保持原始softmax分布不变。

从开发者视角看，温度是一个直观的“确定性—多样性”调节旋钮。它的存在依赖于一个关键前提：模型在解码阶段能够产生一组显式的、未归一化的logits，并且这些logits可以通过softmax被映射为可供采样的离散概率分布。

二、问题背景：连续自回归语言模型缺少显式logits

连续自回归语言模型（Continuous Autoregressive Language Model，简称CALM）代表了一类在建模思路上与离散词表语言模型有所不同的架构。传统语言模型将文本视为离散token序列，每个位置从固定大小的词表中预测下一个token；而连续自回归语言模型则倾向于在连续表示空间中对序列进行建模和生成。

在这一类模型中，解码过程的输出往往不再对应一个固定大小的离散词表。模型可能直接生成连续的向量表示，或者通过某种连续映射关系逐步回归出下一位置的表示。由于不存在一个有限的候选token集合，自然也就不存在传统意义上那种“每个候选token对应一个logit分”的显式logits向量。

这就带来一个直接的问题：温度参数原本作用于softmax之前的logits，如果模型根本不存在这个显式的logits层，那么“调温度”这个动作该如何理解、如何实现？

三、为什么温度控制依然重要

即使在连续自回归架构下，温度所代表的“输出确定性与多样性之间的权衡”这一需求并未消失。相反，它仍然是推理阶段最常用的控制需求之一。

原因在于，连续自回归语言模型同样面临以下问题：

1. 生成质量与多样性的平衡：在开放文本生成、对话、创意写作等场景中，用户既希望输出连贯、合理，又希望避免千篇一律；
2. 重复与退化问题：如果模型在连续空间中过度倾向于选择“最接近均值”或“最保守”的表示，输出可能陷入重复或缺乏信息量；
3. 业务场景的可控性需求：在代码生成、内容审核辅助、结构化信息抽取等偏确定性任务中，开发者希望模型输出更稳定、更可复现；
4. 采样策略的兼容性：即使模型在连续空间中生成，最终仍需要通过某种采样或离散化策略得到文本，这一过程同样需要“温度”式的调节能力。

因此，问题不在于“要不要温度控制”，而在于“在没有显式logits的情况下，温度控制在连续自回归语言模型中应当如何被定义和实现”。

四、连续自回归语言模型中“温度”的重新理解

在连续自回归架构下，温度不再是对离散logits向量的标量缩放，而更应被理解为一种对生成分布或生成过程中不确定性程度的控制机制。其具体实现方式取决于模型在解码阶段所暴露的内部结构。

1. 对连续输出分布的方差进行调节

如果连续自回归语言模型在每一位置生成的是一个概率分布参数，例如生成一个均值向量和方差参数，那么“温度”可以等价地体现为对方差的缩放。增大方差类似于提高温度，使采样到的连续表示更加分散；减小方差则类似于降低温度，使输出更加集中。

这种机制在数学性质上与传统softmax温度有相通之处：两者本质上都是在控制“模型对自己预测的自信程度”。

2. 对回归过程中的扰动强度进行调节

部分连续自回归模型采用迭代回归或扩散式生成过程。在每一步生成中，模型会基于当前状态预测一个增量或修正量。此时，温度可以体现为对每一步扰动幅度或噪声注入强度的控制。

• 低温度：每一步扰动较小，生成轨迹更平滑、更确定；
• 高温度：每一步扰动较大，生成轨迹更发散，最终结果更多样。

3. 在离散化阶段引入温度

有些连续自回归语言模型在最终输出文本时，需要将连续表示映射回离散token空间。此时，温度可以作用于这一映射过程中的相似度得分或距离度量。例如，在根据连续表示与候选token嵌入之间的距离构建采样分布时，通过缩放距离值来实现“温度”效果。

这种实现方式相当于把温度从“logits层”移到了“表示到词表的映射层”，但调节目标和用户体验保持了一致。

五、核心组成：实现温度控制的常见模块

从一个抽象的实现框架来看，连续自回归语言模型中的温度控制通常涉及以下几个组成模块：

1. 分布构造模块

负责将模型的连续输出转化为可用于采样的概率分布。它可能是参数化分布，如高斯分布、混合分布，也可能是基于距离度量的非参数化分布。

2. 缩放与归一化模块

该模块接收一个温度参数，对分布构造模块生成的得分、距离或方差进行缩放，并完成归一化。它是传统softmax温度在连续场景下的功能对应物。

3. 采样策略模块

决定最终如何从分布中取得结果。常见方式包括随机采样、近似贪心策略、带有随机扰动的确定性选择等。温度会影响采样策略的实际行为，但采样策略本身还受其他参数控制，如候选数量、截断阈值等。

4. 离散化映射模块

对于需要输出离散文本的连续自回归模型，该模块负责将采样到的连续表示映射回具体的token。温度既可以在连续侧生效，也可以在映射到词表时生效，二者的调节效果可能存在差异。

六、工作原理：温度如何在推理阶段发挥作用

以“连续表示 + 参数化分布 + 离散化映射”的抽象流程为例，一次典型的带温度控制的推理过程可以描述如下：

1. 模型基于已生成的前文，输出当前预测位置的一个连续表示h；
2. 分布构造模块将h转化为一个连续概率分布，例如以h为均值、以σ为初始方差的分布；
3. 温度T被引入，对初始方差或分布范围进行缩放，得到调整后的分布；
4. 采样策略从调整后的分布中采样，得到一个具体的连续向量v；
5. 离散化映射模块将v与词表中的候选嵌入进行相似度计算；
6. 根据相似度得分生成离散候选分布，并选择或采样出最终token；
7. 该token被追加到已生成序列中，进入下一轮迭代。

在这一流程中，温度的作用点可以是一个，也可以是多个。不同实现架构可能将温度放在第3步、第6步，或同时作用于两处。无论如何，温度的语义始终保持一致：值越低，输出越接近模型的最优估计；值越高，输出越受随机性影响。

七、典型使用场景

1. 开放文本生成与创意写作

在需要多样性和新颖性的场景中，适度提高温度有助于避免重复表达和陈旧句式。连续自回归模型在连续表示空间中天然具备更平滑的多样性控制潜力，温度的引入可以进一步调节这种潜力。

2. 对话系统与角色扮演

对话系统通常需要在“合理”和“有趣”之间取得平衡。偏低的温度会让回复更安全但可能显得机械；偏高的温度会增加意外性，但也可能牺牲上下文一致性。开发者可以根据场景定位选择合适的温度区间。

3. 代码生成与结构化输出

在代码生成、配置生成、数据格式转换等任务中，输出确定性和正确性优先级较高。此时应使用较低温度，使模型倾向于选择它认为最可靠的连续表示和离散映射结果。

4. 内容摘要与信息抽取

这类任务对忠实度和稳定性要求较高，低温度设置通常更合适。过高的温度可能引入原文中不存在的信息，造成事实性偏差。

5. 探索性实验与A/B测试

在模型能力评估、提示词效果对比、生成策略研究等场景中，温度是常用的控制变量。理解温度在连续自回归架构下的实际作用点，有助于设计更严谨的对比实验。

八、与相关概念的区别

1. 温度与Top-k/Top-p采样

传统离散语言模型中，温度、Top-k和Top-p是三种常用的解码控制手段，它们可以组合使用。温度作用于分布的形状，Top-k和Top-p作用于候选集合的截断范围。在连续自回归语言模型中，类似“候选截断”的概念可以转化为对采样分布支持范围的限制，但两者控制的是不同维度。

2. 温度与随机种子

温度决定输出分布的“宽窄”，随机种子决定从该分布中“具体采到什么”。低温度下，不同随机种子之间的结果差异较小；高温度下，结果差异更大。二者属于正交的控制维度。

3. 温度与重复惩罚

重复惩罚通过降低已出现token的得分来抑制重复，与温度的直接作用对象不同。在连续自回归模型中，重复惩罚可能体现在连续表示的距离惩罚或相似度抑制上，而温度仍然只关心分布的集中或发散程度。

4. 温度与长度惩罚

长度惩罚作用于序列级别的评分，影响生成何时结束或整体偏向；温度则是在每个解码步骤内部起作用的局部控制。两者可以同时使用，但互不等同，也不能相互替代。

九、使用注意事项

1. 温度并非唯一控制手段

在连续自回归语言模型中，输出的确定性与多样性还受到采样策略、离散化映射方式、连续表示的范数约束等多方面因素影响。仅调节温度可能无法完全达到预期效果，需要结合其他参数协同调整。

2. 温度的有效范围因实现而异

传统离散模型通常将温度设置在0.1至2.0之间，但在连续自回归架构中，由于温度可能作用于方差、距离或噪声强度，其绝对数值含义可能与离散场景不同。开发者需要根据具体模型文档和实验观察来确定合适范围，不宜直接沿用离散模型的经验值。

3. 注意数值稳定性

当温度作用于softmax或类似归一化操作时，过低的温度可能导致数值溢出或分布过于尖锐；过高的温度可能使分布趋近均匀，削弱模型判断力。在连续场景下，如果温度直接影响方差参数，也需要注意对方差进行约束，避免采样过程失控。

4. 评估应结合任务指标

温度调节的效果需要结合任务指标进行评估。对于确定性任务，可以关注准确率、F1值、格式合规率等指标；对于开放生成任务，可以结合多样性指标、人工评分和语义连贯性综合判断。单一指标不足以全面反映温度设置是否合理。

5. 记录温度设置与输出对应关系

在调试和上线过程中，建议将温度设置与关键输出样本、评估指标关联记录。这有助于在问题发生时快速定位是温度配置不当，还是模型能力或上游数据存在问题。

十、总结

温度参数的核心价值，不在于它是否作用于一个显式的logits向量，而在于它为推理阶段提供了一种直观、可控的“确定性—多样性”调节手段。在连续自回归语言模型中，由于缺少离散词表与显式logits，温度的实现方式发生了迁移：它可能作用于连续分布方差、噪声注入强度、离散化映射得分，或者上述多个环节的组合。

对于开发者而言，理解这一点具有重要意义。它意味着：

• 不能简单假设连续自回归模型中的“温度”与离散模型中的“温度”在数值上具有相同的含义；
• 需要关注具体架构中温度的实际作用点，才能在调参时做出合理判断；
• 温度控制仍然只是解码策略的一部分，必须结合采样策略、离散化映射和任务评估来综合使用。

从更宏观的视角看，温度参数在连续自回归语言模型中的演变，反映了一个普遍趋势：随着模型架构从离散走向连续、从显式词表走向隐式表示，许多传统概念并不会消失，而是以新的形式被重新定义。理解这些概念在新架构下的内涵与实现机制，是开发者有效使用新一代模型能力的基本前提。