简介:GAN、VAE、Flow与Diffusion看似技术路线迥异,实则都在解决同一个根本问题:对真实数据分布 p_data(x) 进行建模与采样。本文从"统一目标、不同路径"的视角出发,系统梳理四类生成模型的核心定义、工作原理与适用边界,帮助读者理解它们之间的内在联系与选型依据。
生成模型(Generative Model)是一类以”学习数据分布”为核心目标的概率模型。与只关心”如何判断样本属于哪个类别”的判别式模型不同,生成模型试图回答一个更本质的问题:真实世界的样本究竟是怎样被”生成”出来的?
用数学语言表述,给定一批来自真实分布的观测样本,生成模型的目标是逼近并复现这个数据分布 p_data(x)。一旦学到了这个分布,模型就能做两件判别式模型做不到的事:
这里要强调一个关键认识:GAN、VAE、流模型(Flow)、扩散模型(Diffusion)本质上是同一个目标的不同实现路径。它们都在回答”如何建模 p_data(x)”这一个问题,只是在如何优化、如何逼近、如何采样上选择了不同的策略。理解这一点,是理解它们内在联系的钥匙。
在深度学习早期,主流任务是分类与回归,即学习一个从输入到输出的映射。但生成建模的价值在于它承载了”理解”本身:只有真正掌握数据分布,模型才算理解了数据背后的结构。
生成模型的价值主要体现在:
正因为价值广泛,学界提出了多条技术路线,它们各有取舍,也互为补充。
GAN(生成对抗网络)由生成器与判别器组成,采用 minmax 博弈 的优化思想。生成器负责把随机噪声映射为”以假乱真”的样本,判别器则尽力区分真实样本与生成样本。二者在对抗中共同进化,最终生成器学会产出判别器难以识别的结果。
VAE(变分自编码器)通过编码器把输入映射到潜在空间的一个分布,再由解码器从该分布采样重建输入。由于直接优化真实似然难以计算,VAE 转而优化一个可计算的似然下界(ELBO),用近似来逼近目标。
流模型通过一系列可逆变换,把一个简单分布(如高斯)精确地映射到复杂的数据分布。由于变换可逆且行列式计算可控,它能求得精确似然,训练目标明确。
需要特别说明:这里的流模型指的是传统流模型,与当前流行的 flow matching 等生成范式在技术细节上有明显区别,二者不应混为一谈。
扩散模型借鉴了两方面的思想:一方面像 VAE 那样引入分层的潜在结构,另一方面像流模型那样把复杂变换拆解为一系列简单的渐进步骤。它的做法是先在前向过程中逐步向数据添加噪声,再训练一个网络学习如何一步步去噪,从而完成生成。
把四条路径并排来看,内在联系就非常清晰了:
| 维度 | GAN | VAE | Flow | Diffusion |
|---|---|---|---|---|
| 核心机制 | 对抗博弈 | 变分推断 | 可逆变量变换 | 渐进去噪 |
| 优化目标 | 博弈均衡 | 似然下界 ELBO | 精确似然 | 稳定的回归目标 |
| 采样方式 | 一次前向 | 一次解码 | 一次逆变换 | 多步迭代去噪 |
| 主要权衡 | 质量高但不稳 | 稳定但偏保守 | 精确但受架构约束 | 质量高但推理慢 |
可以看到,四类模型并非彼此割裂的对立项,而是面向同一目标(建模 p_data(x))在不同维度上做出的不同权衡:
Diffusion 之所以被广泛认为融合了前人的优点,正是因为它把 VAE 的分层思想与 Flow 的渐进思想结合,并选择了一个最稳定的回归式目标,从而在训练稳定性与生成质量之间取得了良好平衡。
需要区分几组容易混淆的概念:
在选型与工程实践中,建议关注以下几点:
回到定义本身:GAN、VAE、Flow 与 Diffusion 都是生成模型,它们共享同一个根本目标——对真实数据分布 p_data(x) 进行建模与采样。四者的差异不在于”解决不同的问题”,而在于”用不同路径解决同一问题”:GAN 走对抗博弈、VAE 走变分推断、Flow 走可逆变量变换、Diffusion 融合分层与渐进并选择稳定的回归目标。
理解这条”统一目标、路径分化”的主线,比单独记忆每种模型的公式更有价值。它不仅能帮助读者在选型时快速判断适配场景,也能让人在纷繁的技术名词中始终把握住生成模型的本质。