1. 一切的起点：凸函数 (Convex Function)#

直观理解： 在数学中，凸函数最直观的几何特征就是“弦在弧上”。如果你在函数图像上任取两点连成一条线段（弦），这条线段上的每一个点都会高于（或等于）对应位置的函数曲线（弧）。

数学公式： 对于定义域内的任意两点 $x_1$ 和 $x_2$，以及任意比例参数 $\lambda \in [0, 1]$，(下凸)凸函数 $f(x)$ 满足：

2. Jensen 不等式#

数学公式： 对于任意一个凸函数 $f(x)$，假设有一组参数 $x_1, x_2, \dots, x_M$，以及对应的权重 $\lambda_1, \lambda_2, \dots, \lambda_M$。（这些权重满足 $\lambda_i \ge 0$ 且 $\sum_{i=1}^M \lambda_i = 1$），那么必然满足以下不等式：

直观理解：

• 等式左边 $f\left(\sum \lambda_i x_i\right)$：【先加权，后映射】 我们先把所有的输入参数 $x_i$ 按照权重 $\lambda_i$ 混合起来（求加权平均值/重心），得到一个新的点，然后再把这个混合后的点代入函数 $f$ 中求值。
  • 👉 几何意义：先在 x 轴上找到这群点的“重心”，然后看这个重心对应的“函数曲线上的点”。
• 等式右边 $\sum \lambda_i f(x_i)$：【先映射，后加权】 我们先分别算出每个输入参数对应的函数值 $f(x_1), f(x_2)...$，然后再对这些**函数值（即 Y 轴上的高度）**按照同样的权重求加权平均。
  • 👉 几何意义：找到这群点在函数曲线上的位置，然后直接在空间中求这些点的“重心”。这个重心必然悬空落在连接这些点的“多边形弦（割线面）上”。

将权重 $\lambda_i$ 视为 概率 $P(x_i)$，数学期望 $\mathbb{E}[X] = \sum P(x_i) x_i$，而函数值 $f(x)$ 按概率加权求和 $\sum P(x_i) f(x_i)$ 即为 $\mathbb{E}[f(X)]$。

此时，对于随机变量 $X$，有：

(口诀：期望的函数 小于等于 函数的期望)

3. 度量分布相似度的尺子：KL 散度 (KL Divergence)#

在生成模型中，我们往往希望我们用神经网络生成的概率分布 $Q(x)$ 能够尽可能逼近真实的数据分布 $P(x)$。如何衡量这两个分布的差异？这就需要用到 KL 散度（相对熵）。

数学公式： 连续分布下，分布 $P$ 和分布 $Q$ 的 KL散度定义为：

或者用概率论中期望的写法（离散与连续通用）：

核心性质：

1. 非对称性：$D_{KL}(P || Q) \neq D_{KL}(Q || P)$，所以它不是严格意义上的“距离”。
2. 非负性：$D_{KL}(P || Q) \ge 0$，当且仅当两个分布完全相同时取等号。

1. 为什么需要 VAE？普通的 AE 哪里不够好？#

要理解 VAE，首先要回顾它的前身——自编码器(Auto-Encoder, 简称 AE)。 普通的 AE 包含一个编码器(Encoder) 和一个解码器(Decoder)：

• 编码器Encoder：将高维的输入图像 $X$ 压缩成低维的隐向量 $Z$（比如提取出一张猫图的特征）。
• 解码器Decoder：将隐向量 $Z$ 还原成图像 $X'$。

AE 的致命缺陷：无法用于生成 在 AE 中，每张图像都被编码成了隐空间 (Latent Space) 中的一个确定的点。这就导致隐空间是稀疏且不连续的。如果你在隐空间中随机插值取一个没有被训练数据覆盖到的“空白点”扔给解码器，它很可能会输出一团毫无意义的噪点。

💡 换句话说，AE 只适合做数据压缩，不能做数据生成。

2. VAE 的核心思路：从“确定的点”到“概率分布”#

为了让模型具备“生成”能力，VAE 提出了一个极其优美的改进思路：既然确定的点容易造成断层，那我们就把输入映射为一个区域（即概率分布）！

在 VAE 中：

1. 编码器 不再输出一个具体的隐向量$Z$，而是输出一个概率分布的参数。通常我们假设这个分布是高斯分布，所以编码器会输出 均值 $\mu$ 和方差 $\sigma^2$。
2. 采样(Sampling)：在这个均值和方差确定的高斯分布 $\mathcal{N}(\mu, \sigma^2)$ 中，随机采样出一个向量 $Z$ 作为隐向量。
3. 解码器 将采样得到的 隐向量 $Z$ 还原成 图像 $X'$。

3. VAE 数学上的落地：损失函数 与 KL 散度#

直观上理解了 VAE 的架构，接下来我们面临的问题是：如何用数学语言定义它，并训练这个网络？

我们先明确一下网络中各个部件对应的数学符号：

• $X$ (观测数据)：真实的数据，比如输入给网络的真实图片。
• $Z$ (隐变量 / Latent Variable)：图像被压缩降维后，在隐空间中的特征表示。
• $P$ (解码侧)：代表真实或期望的生成分布。
  • $P(Z)$：隐变量的先验分布(Prior)。即在没看到图片之前，我们期望隐变量长什么样（通常人为设为多元标准正态分布 $\mathcal{N}(0, I)$，其中 $I$ 是单位矩阵）。
  • $P(X)$：真实图片的数据分布（我们的最终目标就是最大化这个分布的对数似然 $\log P(X)$）。
  • $P_\theta(X|Z)$：解码器(Decoder)。即给定一个特征 $Z$，把它还原成真实图片 $X$ 的概率。其中 $\theta$ 是解码器Decoder的可训练参数。
• $Q$ (编码侧)：因为真实的后验分布(Posterior) $P(Z|X)$ 算不出来，我们引入一个变分分布 $Q_\phi$ 来近似它。
  • $Q_\phi(Z|X)$：编码器(Encoder)。即输入一张图片 $X$，神经网络输出的对应隐变量 $Z$ 的概率分布（通常输出均值 $\mu_\phi$ 和方差 $\sigma^2_\phi$ ），其中 $\phi$ 是编码器Encoder的可训练参数。

4. 还没完！解决工程问题：重参数化 (Reparameterization)#

到这里，VAE 的理论看似完美，但在用 PyTorch 实际写代码时会遇到一个致命的工程问题：“采样”这个动作是随机的，不可导！

神经网络依赖反向传播(Backpropagation)更新梯度，但梯度无法穿过一个包含随机性的“采样节点”。

为了解决这个问题，VAE 提出了 重参数化技巧： 我们不直接从 $\mathcal{N}(\mu, \sigma^2)$ 中采样 $Z$，而是：

1. 先从多元标准正态分布 $\mathcal{N}(0, I)$ 中采样一个纯噪声 $\epsilon$。
2. 然后通过公式进行线性变换：$Z = \mu + \sigma \odot \epsilon$

在这个公式里，$\epsilon$ 是不需要求导的常数噪声，而 $\mu$ 和 $\sigma$ 是网络层输出的确定的参数。这样一来，随机性被成功地剥离到了一个独立的旁支上，梯度就可以顺畅地沿着 $\mu$ 和 $\sigma$ 反向传播回编码器了！

1. 核心直觉：从“跳跃的采样”到“流动的向量场”#

• 在 VAE 中，我们借助重参数化技巧，从先验分布中“抓取”一个随机点，通过解码器一步跨越隐空间与像素空间的鸿沟，直接生成图像。
• 与之不同的是，扩散模型(Diffusion)引入了随机微分方程（SDE）来刻画含噪演化，而流匹配(Flow Matching)则进一步将其简化为确定性常微分方程（ODE）。二者的核心共性在于：摒弃了“点映射”的思维，转而通过构建连续的向量场，完成从简单噪声分布到复杂数据分布的概率流变换。
• 流匹配的核心思想：通过流(Flow)的思想，把已知分布一步步流动转换为真实的目标分布。可以看作概率密度在流动。

2. 数学基石：常微分方程 (ODE) 与 目标匹配#

既然是描述随时间变化的“流动”，最合适的数学工具就是常微分方程 (ODE, Ordinary Differential Equation)：

• $x_t$ 是 $t$ 时刻 点 $x$ 在多维空间的位置，其中 $t \in [0,1]$，0 时刻为初始位置，1 时刻是目标位置，位置连起来即为轨迹(Trajectory)。
• $v_t(x_t)$ 是 $t$ 时刻在 $x_t$ 位置 的向量场/速度场(Vector Field)，即流动规则。
  • 在一个多维空间，如果给定了初始位置 $x_0$ 和向量场 $v_t(x)$，就可以通过 ODE 解出任意时刻的 $x_t$ 并确定唯一的轨迹 $X$。
• 流(Flow)：$\phi_t(x_0) = x_t$，有：$\frac{d \phi_t(x_0)}{dt} = v_t(\phi_t(x_0))$，其核心为 $P_0(x_0) \to P_t(x_t)$

如果我们拥有一个真实的、完美引导噪声走向数据的“理想向量场” $u_t^{marginal}(x)$，那么我们只需要训练一个神经网络 $v_\theta(x, t)$ 去逼近它，就解决问题了。

这就是流匹配目标函数 (Flow Matching Objective)： $\mathcal{L}_{FM}(\theta) = \mathbb{E}_{t \sim U[0,1], x \sim p_t(x)} \left[ ||v_\theta(x_t, t) - u_t^{marginal}(x_t)||^2 \right]$

3. 条件流匹配 (CFM, Conditional Flow Matching) 与 边缘化定理#

但是事实是我们根本不知道那个全局的、理想的向量场 $u_t^{marginal}(x)$ 究竟长什么样。

因为要计算全局的向量场，我们需要知道空间中所有数据的分布，并将它们在 $t$ 时刻的流动状态全部叠加起来。在极其高维的图像空间（如 $1024 \times 1024$ 的图片）中，这完全是一个难解的积分问题（Intractable）。

• 边缘化定理核心思想是：“既然无法掌控全局，那就先聚焦于单一目标。” 如果我们不看整个数据集，而是只取出一张具体的终点图片 $x_1$ 作为 “条件”。我们要构建一个从随机噪声分布走到这唯一一张图片 $x_1$ 的路径。这太简单了！我们完全可以人为定义这条即条件概率路径 $p_t(x|x_1)$ 及其 条件向量场 $u_t(x|x_1)$。

• 数学家们通过神奇的边缘化定理证明了：让神经网络去拟合局部的、条件向量场，在数学期望上完全等价于拟合全局向量场！

由此，我们将目标函数改写为 条件流匹配(CFM) 目标函数：

• $x_1$ 是从数据集中抽样出的一张真实图片。
• $x_t$ 是我们人为设计的、通向 $x_1$ 的路径上的点。
• $u_t(x_t|x_1)$ 是我们人为设计的、通向 $x_1$ 的速度。
• 神经网络 $v_\theta$ 现在的任务变成了：在看到 $x_t$ 时，预测出那个通向 $x_1$ 的条件速度。

通过这个定理，原本不可解的无监督积分问题，瞬间变成了一个简单的、可用梯度下降优化的监督学习问题！

4. 化繁为简：直流 (Rectified Flow) 与 最优传输 (Optimal Transport)#

既然条件路径是我们人为设计的，那我们应该设计一条怎样的路径呢？

俗话说得好，“两点之间，线段最短”。最简单的路径，就是从初始噪声 $x_0$ 到目标数据 $x_1$ 的匀速直线。这就是 Rectified Flow (直流) 的核心思想。

设 $x_0 \sim \mathcal{N}(0, I)$ 为纯噪声， $x_1$ 为真实图片。我们在它们之间连一条线：

对时间 $t$ 求导，我们就能得到这条直线的速度（向量场）：

把这个直线速度代入刚才的 CFM 损失函数中，得到了极其简洁的训练目标：

神经网络 $v_\theta$ 只需要去预测 $(x_1 - x_0)$ 这个差值向量即可！

这与最优传输 (OT, Optimal Transport) 有什么关系？ 在流匹配中引入 OT 思想，被称为 OT-CFM。如果我们给噪声 $x_0$ 和图像 $x_1$ 随机配对，多条直线在空间中大概率会发生交叉，导致网络在交叉点“不知所措”。最优传输通过最小化 Wasserstein 距离，教我们如何最优地将噪声点配对给图像点，使得所有直线的总长度最短，轨迹最不拥挤。OT 加上直线路径，成为了目前图像生成的最优解（如 Stable Diffusion 3 就在使用 OT-CFM）。

5. 统一视角：把 DDPM 和 EDM 纳入麾下#

6. 让生成更快更直：Reflow 与 蒸馏 (Distillation)#

用直线（Rectified Flow / OT-CFM）训练出来的模型，由于路径短、曲率小，通常用少量步数（比如 20-30 步 Euler 积分）就能生成高质量图像。但能不能更快？比如 1 步生成？

为了实现这个目标，学者们提出了 Reflow 和 蒸馏 技术。

1. Reflow (重流)： 在第一次训练完模型（1-Rectified Flow）后，虽然我们要求网络走直线，但因为初始配对 $(x_0, x_1)$ 是随机的，网络学到的全局 ODE 轨迹还是会有轻微的弯曲。 怎么让它变绝对笔直？ 我们用训练好的模型，从随机噪声 $z_0$ 开始跑推理，生成对应的图片 $z_1$。这相当于记录下了模型自己找出的完美映射路径。然后，我们把这组确定的 $(z_0, z_1)$ 作为训练对，再训练一次模型 (2-Rectified Flow)。这时候由于映射是确定的，轨迹再也不会交叉，最终学到的路径会变得近乎完美笔直！
2. Distill (一步蒸馏)： 当 ODE 的轨迹被 Reflow 拉成了完美的直线（常数速度），奇迹就发生了：$\frac{dx}{dt} = \text{常数}$ 这意味着，我们从时间 $t=0$ 跳到 $t=1$，根本不需要分成 30 步慢慢走，只需要进行 一步欧拉积分 (1-step Euler)： $$x_1 = x_0 + 1 \cdot v_\theta(x_0, 0)$$ 这就是一步生成的数学基础。基于这种特性的蒸馏技术，让我们能够在边缘设备上实现毫秒级的实时图像生成。