简介:本文从定义出发解释扩散模型中Score预测、干净数据预测与速度预测分别是什么,说明它们在标准高斯扩散固定噪声调度下可通过仿射变换相互转换,并辨析扩散v-prediction与流匹配时间速度的区别,给出转换公式、适用场景与工程注意事项。
在扩散模型语境中,“预测Score”“预测干净数据”“预测速度”并不是三种完全无关的模型结构,而是同一反向估计问题的不同参数化方式。更准确地说:Score预测输出的是带噪样本对数概率密度的梯度场,干净数据预测输出的是给定带噪样本后干净样本的条件期望,速度预测则通常是干净数据与噪声的线性组合。三者的共同目标都是估计带噪输入背后的数据分布信息;在标准高斯扩散的区间内部、固定同一条噪声调度时,它们可以通过已知带噪输入的仿射关系相互转换。因此,从“理想预测器”的角度看,三者数学上等价;但从训练稳定性、损失权重、数值边界、采样器适配和工程实现角度看,三者并不完全等价。
一、概念定义:三种预测目标分别是什么
先约定标准高斯扩散的常见前向形式:x_t = α_t x_0 + σ_t ε,其中 x_0 是干净数据,ε 是标准高斯噪声,α_t 与 σ_t 是随噪声水平变化的系数,x_t 是带噪输入。模型在反向过程中需要根据 x_t 估计与数据分布相关的量。不同参数化只是选择让网络输出哪一个量。
Score预测的目标是 score function,即 st(x_t) = ∇{x_t} log p_t(x_t)。它表示在对数概率密度曲面上,往哪个方向移动更容易进入高概率区域。Score不是概率密度本身,也不是噪声,而是一个梯度场。对于标准高斯扩散,若模型预测噪声 ε,则 score 与噪声预测存在关系 score = -ε / σ_t。因此 score 预测常被理解为一种“指向数据流形高概率区域”的场估计。
干净数据预测,也就是常说的 x0-prediction,目标是估计 E[x_0 | x_t],即给定带噪输入后干净数据的条件期望。它直接回答“如果没有噪声,这个样本大概是什么”。在图像去噪、修复、编辑等任务中,x0预测的输出更接近人们直观理解的“干净结果”。由 x_t = α_t x_0 + σ_t ε 可得 ε = (x_t - α_t x_0) / σ_t,所以 x0预测也可以转换为噪声预测和Score预测。
速度预测,也就是扩散模型中的 v-prediction,通常定义为 v = α_t ε - σ_t x_0。它不是物理意义上的时间速度,而是噪声项与干净数据项在特定噪声调度下的线性组合。它的价值在于平衡不同噪声区间内 ε 预测与 x0 预测的数值尺度:低噪声时 x0 较稳定,高噪声时 ε 较稳定,而 v 作为两者的组合可以在较宽区间内改善训练动态。需要特别强调,扩散模型里的 v-prediction 与流匹配类方法中的“时间速度”不是同一件事。
二、为什么会出现三种预测目标
三种预测目标的出现,本质上是因为扩散模型的反向估计可以写成不同但可互相转换的条件期望。理论上,只要模型完美学习了其中一个量,就可以利用已知的 α_t、σ_t 和 x_t 推出另外两个量。但在实际训练中,网络容量有限、数据有限、损失函数有限,不同参数化会导致不同的误差传播和数值稳定性。
Score预测的理论形式清晰,便于与基于梯度的采样、引导和连续时间扩散理论连接。但 score 在 σ_t 很小时可能数值放大,因为 score = -ε / σ_t,噪声尺度越小,同样的噪声预测误差转换到 score 空间后可能被放大。干净数据预测在低噪声区间通常稳定,因为此时 x_t 已经接近 x_0;但在高噪声区间,α_t 可能很小,从 x_t 反推 x_0 的误差会被放大。速度预测通过组合 ε 与 x0,试图在不同噪声区间取得更平衡的尺度,因而在一些噪声调度和训练设置中更受青睐。
因此,“三者数学上等价”应理解为:在给定调度和已知 x_t 的条件下,它们的真实条件期望存在一一对应的仿射变换;而不是说用三种目标训练出来的有限模型、损失权重和采样行为完全相同。
三、核心转换关系:如何相互理解
在标准高斯扩散约定下,已知 x_t、α_t、σ_t 和任意一个预测量,可以推出其余量。若已知噪声预测 ε,则:
x_0 = (x_t - σ_t ε) / α_t;
score = -ε / σ_t;
v = α_t ε - σ_t x_0。
若已知干净数据预测 x_0,则:
ε = (x_t - α_t x_0) / σ_t;
score = (α_t x_0 - x_t) / σ_t^2;
v = α_t ε - σ_t x_0。
若已知速度预测 v,且采用 v = α_t ε - σ_t x_0 的定义,则令 d = α_t^2 + σ_t^2,有:
x_0 = (α_t x_t - σ_t v) / d;
ε = (σ_t x_t + α_t v) / d;
score = -ε / σ_t。
若已知 score,则:
ε = -σ_t score;
x_0 = (x_t + σ_t^2 score) / α_t;
v = α_t ε - σ_t x_0。
可以用一段通用伪代码表达这种转换思想:
def convert_from_eps(x_t, eps, alpha, sigma):
x0 = (x_t - sigma eps) / alpha
score = -eps / sigma
v = alpha eps - sigma * x0
return x0, score, v
def convert_from_v(x_t, v, alpha, sigma):
d = alpha alpha + sigma sigma
x0 = (alpha x_t - sigma v) / d
eps = (sigma x_t + alpha v) / d
score = -eps / sigma
return x0, eps, score
这些公式说明,三者不是彼此独立的信息源,而是同一后验统计量的不同坐标表示。工程上必须明确 α_t、σ_t 的定义、score 的符号约定以及 v 的具体定义,否则转换公式会出现符号或缩放差异。
四、实际差异:为什么不能只看“等价”
第一,数值范围不同。Score在 σ_t 趋近于零时可能发散,x0预测在 α_t 趋近于零时可能不稳定,v预测则通过线性组合缓解两端问题。实际实现中常需要对 σ_t 或 α_t 设置最小值截断,避免除零和误差放大。
第二,损失权重不同。对 ε、x0、v 分别做均方误差,等价于对不同噪声水平下的 score 误差施加不同权重。即使最优解对应同一条件期望,有限训练过程中网络会更关注某些噪声区间。因此比较不同预测目标时,不能只看转换公式,还要看损失权重、噪声采样分布和网络容量。
第三,采样器适配不同。基于Score的采样器通常需要显式 score 或可转换的噪声预测;确定性采样器可能直接使用 ε、x0 或 v;连续时间概率流方法可能使用 score 或速度场。把模型输出转换成采样器需要的变量是常见做法,但每一步转换都会传递模型误差,尤其在边界噪声区间需要谨慎。
第四,引导空间不同。无分类器引导等方法常在 ε 或 v 空间进行线性组合。由于不同参数化之间存在缩放关系,在一个空间调好的引导尺度,转换到另一个空间后不一定保持相同效果。Score空间的引导有对应的理论形式,工程实现时应保持引导空间与采样器变量一致。
第五,条件生成中的含义需要明确。Score预测、x0预测和v预测都可以是条件期望或条件score,但转换关系依赖同一条件信息和同一调度约定。若模型在不同条件下训练目标不一致,直接转换可能引入偏差。
五、相关概念区别:扩散v预测与流匹配时间速度
扩散模型中的 v-prediction 常被称为 velocity,但它与流匹配类方法中的时间速度有本质区别。扩散v预测是 v = α_t ε - σ_t x_0,是在固定噪声调度下对噪声和干净数据的线性组合,本质仍是扩散参数化的一种。流匹配中的时间速度通常描述样本沿概率流或插值路径随时间的导数,即 dx_t/dt 一类的速度场,需要配合路径设计、时间采样和常微分方程求解器理解。
两者在某些连续时间视角和特定调度下可以建立联系,但不能直接混用概念。例如,不能因为都叫“velocity”就默认引导尺度、损失权重、采样器步长和边界处理相同。工程文档中应明确写出“这里的速度是扩散v参数化”还是“这里的速度是时间速度场”,避免接口歧义。
六、典型场景与选型建议
Score预测适合需要显式梯度场、基于score的采样与引导、连续时间理论分析的场景。使用时要注意低噪声端的数值截断和score缩放。
干净数据预测适合去噪、修复、编辑、重建等需要直接输出干净样本估计的任务,也适合低噪声区间较重要的训练设置。但在高噪声区间,从带噪输入反推干净数据的误差可能较大,需要配合合适的损失权重。
速度预测适合希望在不同噪声区间取得更平衡训练动态的场景,尤其是噪声调度跨越较大范围、x0预测在高噪声端不稳定或ε预测在低噪声端不理想时。使用时应确认采样器和预训练权重是否按v参数化设计。
流匹配类时间速度则适合基于概率流或插值路径的生成建模,需要配套的路径定义和ODE求解器。它不应与扩散v预测的转换公式和引导尺度直接混用。
七、使用注意事项
第一,明确约定。实现前要固定 x_t = α_t x_0 + σ_t ε 的形式、score 的符号、v 的定义以及是否采用 α_t^2 + σ_t^2 = 1 的归一化约定。不同约定下转换公式会变化。
第二,处理边界。σ_t 过小会使 score 放大,α_t 过小会使 x0 反推放大。需要在训练和采样中设置合理的最小值或采用稳定参数化。
第三,保持损失与目标匹配。不要只用转换公式比较不同论文或不同模型的损失曲线;应同时比较噪声采样分布、损失权重、网络结构和采样器。
第四,引导空间一致。若在v空间做引导,就应使用v空间对应的采样更新;若转换到score空间,需要重新校准引导强度。
第五,文档化模型输出。部署接口应明确模型输出是 ε、x0、score还是v,并提供转换工具和数值边界说明,避免下游误用。
总结来说,扩散模型中的Score预测、干净数据预测和速度预测是同一反向估计问题的三种参数化。固定标准高斯扩散的噪声调度时,它们通过仿射关系相互转换,理想意义上等价;但在有限模型、损失权重、数值稳定性和采样器适配层面存在实际差异。扩散v-prediction是噪声与干净数据的线性组合,不是流匹配中的时间速度。理解这些定义、转换关系和边界条件,才能在训练、采样和工程部署中正确选择和使用预测目标。