论文阅读二：成像和视觉扩散模型教程

摘要

近年来，生成工具的惊人增长为文本到图像生成和文本到视频生成提供了许多令人兴奋的应用。这些生成工具背后的基本原理是扩散的概念，这是一种特殊的采样机制，克服了以前方法中一些长期存在的缺点。本教程的目标是讨论这些扩散模型的基本思想。本教程的目标受众包括有兴趣研究扩散模型或应用这些工具解决其他问题的本科生和研究生。论文地址

变分自编码器（VAE）

很久以前，在一个遥远的星系里，我们想建造一个生成器——一个从我们给计算机的一些输入中生成文本、演讲或图像的生成器。虽然这听起来很神奇，但这个问题实际上已经研究了很长时间。为了开始本教程的讨论，我们将首先考虑变分自动编码器（VAE）。VAE是由金玛和韦林于2014年提出的[23]。根据他们2019年的教程[24]，VAE的灵感来自亥姆霍兹机器[10]，是图形模型和深度学习的结合。在接下来的内容中，我们将讨论VAE的问题设置、构建块以及与训练相关的优化工具。

VAE的构建模块

我们首先讨论VAE的示意图。如下图所示，VAE由一对模型组成（通常由深度神经网络实现）。位于输入端附近的称为编码器，而位于输出端附近的则称为解码器。我们将输入（通常是图像）表示为向量x，将输出（通常是另一个图像）表示为向量$\hat{x}$。位于编码器和解码器之间中间的向量被称为潜在变量，表示为z。编码器的工作是提取x的有意义的表示，而解码器的工作是从潜在变量z生成新的图像。

潜在变量z在此设置中有两个特殊作用。对于输入，潜在变量封装了可用于描述x的信息。编码过程可能是一个有损的过程，但我们的目标是尽可能多地保留x的重要内容。关于输出，潜在变量充当可以生成图像$\hat{x}$的“种子”。理论上，两个不同的z应该给我们两个不同生成的图像。

下面给出了潜在变量的更正式的定义:
定义1.1 潜在变量[24]。在概率模型中，潜在变量z是我们没有观察到的变量，因此不是训练数据集的一部分，尽管它们是模型的一部分。

示例1.1 获得图像的潜在表示并不是一件陌生的事情。回到JPEG压缩时代（可以说是恐龙时代），我们使用离散余弦变换（DCT）基函数$\phi_n$对图像的底层图像/补丁进行编码。系数向量$z = [z_1, ..., z_N]^T$ 是通过将图像x投影到由基跨越的空间上，通过$z_n = \lang\phi_n,x\rang$得到的。因此，给定图像x，我们可以产生系数向量z。从z，我们可以使用逆变换来恢复（即解码）图像。

在这个例子中，系数向量z是潜在变量。编码器是DCT变换，解码器是逆DCT变换。

VAE中的“变分”一词与研究函数优化的变分法有关。在VAE中，我们有兴趣寻找描述x和z的最佳概率分布。有鉴于此，我们需要考虑一些分布：

• p(x)：x的真实分布。扩散模型的整个宇宙都是为了找到从p(x)中提取样本的方法。如果我们知道p(x)（比如，我们有一个描述p(x)的公式），我们就可以画一个最大化log p(x)的样本x。
• p(z)：潜在变量的分布。通常，我们将其设为零均值单位方差高斯$\mathcal{N}(0,I)$。一个原因是高斯的线性变换仍然是高斯的，因此这使得数据处理更容易。Doersch[12]也有一个很好的解释。有人提到，通过将高斯函数映射到足够复杂的函数中，可以生成任何分布。例如，在单变量设置中，逆累积分布函数（CDF）技术[7]可用于具有可逆CDF的任何连续分布。一般来说，只要我们有一个足够强大的函数（例如神经网络），我们就可以学习它，并将独立同分布高斯映射到我们问题所需的任何潜在变量。
• p(z|x)：与编码器相关的条件分布，当给定x时，它告诉我们z的可能性。我们无法访问它。p(z|x)本身不是编码器，但编码器必须做一些事情，使其与p(z|x)保持一致。
• p(x|z)：与解码器相关的条件分布，它告诉我们在给定z的情况下得到x的后验概率。同样，我们无法访问它。

当我们从经典参数模型切换到深度神经网络时，潜在变量的概念就变成了深层潜在变量。金玛和韦林[24]给出了一个很好的定义。
定义1.2 深层潜在变量[24]。深层潜在变量是潜在变量，其分布p(z)、p(x|z)或p(z|x)由神经网络参数化。

深层潜变量的优点是，即使先验分布和条件分布的结构相对简单（例如高斯分布），它们也可以对非常复杂的数据分布p(x)进行建模。一种思考方式是，神经网络可用于估计高斯分布的均值。虽然高斯本身很简单，但平均值是输入数据的函数，输入数据通过神经网络生成数据相关的平均值。因此，高斯函数的表现力得到了显著提高。

让我们回到上面的四个分布。下面是一个有点琐碎但有教育意义的例子，可以说明这个想法：
示例1.2 考虑根据高斯混合模型分布的随机变量X，其中潜在变量z∈{1，…，K}表示簇恒等式，使得$p_Z(k) = \mathcal{P}[Z = k] = \pi_k$ ,k=1, …, K。我们假设$\sum_{k=1}^{K}\pi_k = 1$。然后，如果我们被告知只需要看第k个簇，则给定Z的X的条件分布为:

$$P_{X|Z}(x|k) = \mathcal{N}(x|\mu_k,\sigma_k^2\mathrm{I})\,.$$

x的边际分布可以用全概率定律来求，得到：

$$p_{X}(x) = \sum_{k=1}^K p_{X|Z}(x|k)p_Z(k) = \sum_{k=1}^{K}\pi_k\mathcal{N}(x|\mu_k,\sigma_k^2\mathrm{I})\,. \tag{1}$$

因此，如果我们从$p_{X}(x)$开始，编码器的设计问题是构建一个神奇的编码器，使得对于每个样本$x\sim p_{X}(x)$，潜在码将是$z\sim\lbrace1,...,K\rbrace$，分布为$z\sim p_{Z}(k)$。

为了说明编码器和解码器是如何工作的，让我们假设均值和方差是已知的并且是固定的。否则，我们将需要通过期望最大化（EM）算法来估计均值和方差。这是可行的，但繁琐的方程式会破坏这个插图的教育目的。
编码器：我们如何从x得到z？这很容易，因为在编码器处，我们知道p$p_X(x)$和p_Z(k)$。假设你只有两个类z∈{1,2}。实际上，你只是在对样本x应该属于哪里做出二元决定。有很多方法可以做出二元决策。
如果你喜欢最大后验决策规则，你可以检查:

$$p_{Z|X}(1|x) \begin{split} &\gt\mathrm{class}\;1\\ &\lt\mathrm{class}\;2 \end{split}\; p_{Z|X}(2|x)\,,$$

这将返回一个简单的决定：你给我们x，我们告诉你z∈{1,2}。
解码器：在解码器端，如果我们得到一个潜在码z∈{1，…，K}，那么神奇的解码器只需要向我们返回一个样本x，该样本x来自$p_{X|Z}(x|k) = \mathcal{N}(x|\mu_k,\sigma_k^2\mathrm{I})$。不同的z将为我们提供K混合组分之一。如果我们有足够的样本，总体分布将遵循高斯混合。

这个例子当然过于简单了，因为现实世界的问题可能比具有已知均值和已知方差的高斯混合模型要困难得多。但我们意识到，如果我们想找到神奇的编码器和解码器，我们必须找到两个条件分布p(z|x)和p(x|z)。然而，它们都是高维的。

为了让我们说一些更有意义的话，我们需要强加额外的结构，以便我们可以将这一概念推广到更难的问题。为此，我们考虑以下两种代理分布：

• $q_{\phi}(z|x)$：p(z|x)的代理，这也是与编码器相关的分布。$q_{\phi}(z|x)$可以是任何有向图形模型，并且可以使用深度神经网络进行参数化[24，第2.1节]。例如，我们可以定义:

$$\begin{aligned} (\mu,\sigma^2) = \mathrm{EncoderNetwork}_{\phi}(x)\,, \\ q_{\phi}(z|x) = \mathcal{N}(z|\mu,\mathrm{diag}(\sigma^2))\,. \tag{2} \end{aligned}$$

该模型因其可处理性和计算效率而被广泛使用。

• $p_{\theta}(x|z)$:p(x|z)的代理，它也是与解码器相关的分布。与编码器一样，解码器也可以通过深度神经网络进行参数化。例如，我们可以定义:

$$\begin{aligned} f_{\theta}(z) = \mathrm{DecoderNetwork}_{\theta}(z)\,, \\ p_{\theta}(x|z) = \mathcal{N}(x|f_{\theta}(z),\sigma_{dec}^2\mathrm{I})\,, \tag{3} \end{aligned}$$

其中$\sigma_{dec}$是一个可以预先确定或可以学习的超参数。

下图总结了输入x和潜在z之间的关系以及条件分布。有两个节点x和z。“正向”关系由p(z|x)指定（近似为$q_{\phi}(z|x)$），而“反向”关系由p(x|z)指定（并近似为p_{\theta}(x|z)。

示例1.3 假设我们有一个随机变量 $x\in\mathcal{R}^d$ 和一个潜在变量 $z\in\mathcal{R}^d$，使得

$$\begin{aligned} &x\sim p(x) = \mathcal{N}(x|\mu,\sigma^2\mathrm{I}),\\ &z\sim p(z) = \mathcal{N}(z|0,\mathrm{I}). \end{aligned}$$

我们希望构建一个VAE。通过这种方式，我们的意思是我们想构建两个映射Encoder(·)和Decoder(·)。编码器将获取样本x并将其映射到潜在变量z，而解码器将获取潜在变量z并将其对应到生成的变量$\hat{x}$。如果我们知道p(x)，那么就有一个容易的解，其中$z = (x - \mu)/\sigma$和$\hat{x} = \mu + \sigma\mathrm{z}$。在这种情况下，真实分布可以确定，并且它们可以用δ函数表示：

$$\begin{aligned} &p(x|z) = \delta(x - (\sigma z + \mu))\,,\\ &p(z|x) = \delta(z - (x - \mu)/\sigma)\,. \end{aligned}$$

现在假设我们不知道p(x)，所以我们需要构建一个编码器和解码器来估计z和$\hat{x}$。让我们先定义编码器。在这个例子中，我们的编码器接收输入x，并生成一对参数 $\hat{\mu}(x)$ 和 $\hat{\sigma}(x)^2$ ，表示高斯函数的参数。然后，我们将$q_{\phi}(z|x)$定义为高斯函数：

$$\begin{aligned} (\hat{\mu}(x),\hat{\sigma}(x)^2) = \mathrm{Encoder}_{\phi}(x),\\ \quad\quad q_{\phi}(z|x) = \mathcal{N}(z|\hat{\mu}(x),\hat{\sigma}(x)^2\mathrm{I})\,. \end{aligned}$$

为了讨论的目的，我们假设$\hat{\mu}$是x的仿射函数，这样对于某些参数a和b，使得$\hat{\mu}(x) = ax + b$。同样，对于某些标量t，我们假设$\hat{\sigma}(x)^2$。这将给我们

$$q_{\phi}(z|x) = mathcal{N}(z|ax+b,t^2\mathrm{I})\,.$$

对于解码器，我们通过考虑以下因素来部署类似的结构:

$$\begin{aligned} (\tilde{\mu}(z), \tilde{\sigma}(z)^2) = \mathrm{Decoder}_{\theta}(z)\,,\\ p_{\theta}(x|z) = \mathcal{N}(x|\tilde{\mu}(z),\tilde{\sigma}(z)^2\mathrm{I})\,. \end{aligned}$$

同样，为了讨论的目的，我们假设$\tilde{\mu}$是仿射的，因此对于某些参数c和v，$\tilde{\mu}(z) = cz + v$，对于某些标量s，$\tilde{\sigma}(z)^2 = s^2$。因此，$p_{\theta}(x|z)$的形式为：

$$p_{\theta}(x|z) = \mathcal{N}(z|cx + v,\sigma^2\mathrm{I})\,.$$

我们稍后将讨论如何确定参数。

证据下限(Evidence Lower Bound)

我们如何使用这两个代理分布来实现确定编码器和解码器的目标？如果我们将 $\phi$ 和 $\theta$ 视为优化变量，那么我们需要一个目标函数（或损失函数），以便我们可以通过训练样本优化 $\phi$ 和 $\theta$ 。我们在这里使用的损失函数称为证据下限(ELBO)[24]：
定义1.3 （证据下限）证据下限定义为:

$$\mathrm{ELBO}(x) \overset{\text{def}}{=} E_{q_{\phi}(z|x)}\left[\mathrm{log}\frac{p(x,z)}{q_{\phi}(z|x)}\right]\,. \tag{4}$$

你肯定很困惑，地球上的人怎么能想出这个损失函数！？让我们看看ELBO是什么意思以及它是如何推导出来的。
简而言之，ELBO是先验分布 $\text{log}p(x)$ 的下限，因为我们可以证明:

$$\begin{aligned} \text{log}p(x) &= \text{一些神奇的推导步骤}\\ &= E_{q_{\phi}(z|x)}\left[\text{log}\frac{p(x,z)}{q_{\phi}(z|x)}\right] + D_{KL}(q_{\phi}(z|x)||p(z|x))\\ &\ge\mathrm{E}_{q_{\phi}(z|x)}\left[\text{log}\frac{p(x,z)}{q_{\phi}(z|x)}\right]\\ &\overset{def}{=}\text{ELBO}(x)\,, \tag{5} \end{aligned}$$

其中不等式来自KL散度总是非负的事实。因此，ELBO是 $\text{log}p(x)$ 的有效下限。由于我们永远无法访问 $\text{log}p(x)$ ，如果我们以某种方式访问ELBO，如果ELBO是一个很好的下限，那么我们可以有效地最大化ELBO，以实现最大化 $\text{log}p(x)$ 的目标，这是金标准。现在，问题是下限有多好。正如你从方程和下图中看到的，当我们的代理 $q_{\phi}(z|x)$ 能够与真实分布p(z|x)完全匹配时，不等式将变为等式。因此，游戏的一部分是确保 $q_{\phi}(z|x)$ 接近p(z|x)）。

定理1.1 对数似然分解。对数似然 $\text{log}p(x)$ 可以分解为:

$$\text{log}p(x) = \underbrace {E_{q_{\phi}(z|x)}\left[\text{log}\frac{p(x,z)}{q_{\phi}(z|x)}\right]}_{\overset{def}{=}\text{ELBO}(x)} + D_{KL}(q_{\phi}(z|x)||p(z|x))\,. \tag{6}$$

证明 诀窍是使用我们神奇的代理 $q_{\phi}(z|x)$ 来绕过p(x),并推导出界限。

$$\begin{aligned} \text{log}p(x) &= \text{log}p(x) × \underbrace{\int q_{\phi}(z|x)dz}_{=1} \quad\quad \text{乘1}\\ &=\int\underbrace{\text{log}p(x)}_{some\;constant \;wrt \;z} × \underbrace{q_{\phi}(z|x)}_{distribution \;in \;z} dz \quad\quad \text{move log p(x) into integral}\\ &= E_{q_{\phi}(z|x)}[\text(log)p(x)]\,, \tag{7} \end{aligned}$$

其中最后一个等式是事实，对于任何随机变量z和标量a，$\int a × p_Z(z)dz = E[a] = a$ 。
看，我们已经得到了方程式 $E_{q_{\phi}(z|x)}[\cdot]$ 。再多几步。让我们使用贝叶斯定理，该定理指出 $p(x,z) = p(z|x)p(x)$ ：

$$\begin{aligned} E_{q_{\phi}(z|x)}[\text{log}p(x)] &= E_{q_{\phi}(z|x)}[\text{log}\frac{p(x,z)}{p(z|x)}] \quad\quad \text{贝叶斯定理}\\ &= E_{q_{\phi}(z|x)}[\text{log}\frac{p(x,z)}{p(z|x)} × \frac{q_{\phi}(z|x)}{q_{\phi}(z|x)}] \quad\quad \text{乘以并除以}{q_{\phi}(z|x)}\\ &= \underbrace{E_{q_{\phi}(z|x)}[\text{log}\frac{p(x,z)}{q_{\phi}(z|x)}]}_{ELBO} + \underbrace{E_{q_{\phi}(z|x)}[\text{log}\frac{p(x,z)}{q_{\phi}(z|x)}]}_{D_{KL}(q_{\phi}(z|x)||p(z|x))}\,, \tag{8} \end{aligned}$$

其中我们认识到第一项正是ELBO，而第二项正是KL散度。将方程（8）与方程（5）进行比较，我们完成了证明。

示例1.4 使用前面的例子，如果我们知道p(z|x)，我们可以最小化log p(x)和ELBO(x)之间的差距。为此，我们注意到log p(x)是

$$\text{log}p(x) = \text{ELBO}(x) + D_{KL}(q_{\phi}(z|x)||p(z|x)) \ge \text{ELBO}(x)\,.$$

当且仅当KL散度项为零时，等式成立。为了使KL散度为零，$q_{\phi}(z|x) = p(z|x)$ 是必要的。然而，由于$p(z|x)$是一个δ函数，唯一的可能性是

$$\begin{aligned} q_{\phi}(z|x) &= \mathcal{N}(z|\frac{x-\mu}{\sigma}, 0)\\ &= \delta(z - \frac{x-\mu}{\sigma})\,, \tag{9} \end{aligned}$$

即我们将标准偏差设置为t=0。为了确定 $p_{\theta}(x|z)$，我们需要一些额外的步骤来简化ELBO。
我们现在有ELBO。但是这个ELBO仍然不太有用，因为它涉及p(x,z)，这是我们无法访问的。所以，我们需要做更多的工作。
定理1.2 ELBO的解释。ELBO可以分解为

$$\text{ELBO}(x) = \underbrace{E_{q_{\phi}(z|x)}[\text{log}\overbrace{p_{\theta}(x|z)}^{\text{a Gaussian}}]}_{\text{how good your decoder is }} \quad\quad- \quad\quad \underbrace{D_{KL}(\overbrace{q_{\phi}(z|x)}^{\text{a Gaussian}}||\overbrace{p(z)}^{\text{a Gaussian}})}_{\text{how good your encoder is}}\,. \tag{10}$$

证明 让我们仔细看看ELBO

$$\begin{aligned} ELBO(x) &\overset{def}{=} E_{q_{\phi}(z|x)}[\text{log}\frac{p(x,z)}{q_{\phi}(z|x)}] \quad\quad \text{定义}\\ &= E_{q_{\phi}(z|x)}[\text{log}\frac{p(x|z)p(z)}{q_{\phi}(z|x)}] \quad\quad p(x,z) = p(x|z)p(z) \\ &= E_{q_{\phi}(z|x)}[\text{log}p(x|z)] + E_{q_{\phi}(z|x)}[\text{log}\frac{p(z)}{q_{\phi}(z|x)}] \quad\quad \text{split expectation}\\ &= E_{q_{\phi}(z|x)}[\text{log}p_{\theta}(x|z)] - D_{KL}(q_{\phi}(z|x)||p(z))\,, \quad\quad \text{definition of KL} \end{aligned}$$

其中，我们用其代理$p_{\theta}(x|z)替换了不可访问的p(x|z)。

这是一个美丽的结果。我们只是展示了一些很容易理解的东西。让我们看看方程式（10）中的两个项
重建。第一个术语是关于解码器的。如果我们将潜在的z输入解码器，我们希望解码器能够产生一个好的图像x（当然！！）。因此，我们希望最大化 $\mathrm{log}p_{\theta}(x|z)$ 。它类似于最大似然，我们希望找到模型参数来最大化观察图像的可能性。这里的期望是针对样本z（以x为条件）得出的。这并不奇怪，因为样本z用于评估解码器的质量。它不能是任意的噪声向量，而是一个有意义的潜在向量。因此，z需要从 $q_{\phi}(z|x)$ 中采样。
先验匹配。第二项是编码器的KL散度。我们希望编码器将x转换为潜在向量z，使潜在向量遵循我们选择的分布，例如z∼N（0，I）。更一般地说，我们写p(z)作为目标分布。因为KL散度是一个距离（当两个分布变得更加不同时，它会增加），所以我们需要在前面加一个负号，这样当两个分配变得更加相似时，它就会增加。

示例1.5 在前面的例子的基础上，我们继续假设我们知道p(z|x)。那么ELBO中的重建项将为我们提供

$$\begin{aligned} E_{q_{\phi}(z|x)}[\mathrm{log}p_{\theta}(x|z)] &= E_{q_{\phi}(z|x)}[\mathrm{log}\mathcal{N}(x|cz+v,\sigma^2\mathrm{I})]\\ &= E_{q_{\phi}(z|x)}[-\frac{1}{2}\mathrm{log}2\pi - \mathrm{log}s - \frac{||x - (cz + v||^2)}{2s^2}] \\ &= -\frac{1}{2}\mathrm{log}2\pi - \mathrm{log}s - \frac{c^2}{2s^2}E_{q_{\phi}(z|x)}[||z - \frac{x-v}{c}||^2]\\ &= -\frac{1}{2}\mathrm{log}2\pi - \mathrm{log}s - \frac{c^2}{2s^2}E_{\delta(z-\frac{x-\mu}{\sigma})}[||z - \frac{x-v}{c}||^2]\\ &= -\frac{1}{2}mathrm{log}2\pi - \mathrm{log}s - \frac{c^2}{2s^2}[||\frac{x-\mu}{\sigma} - \frac{x-v}{c}||^2]\\ &\le -\frac{1}{2}\mathrm{log}2\pi - \mathrm{log}s\,, \end{aligned}$$

其中，当且仅当范数平方项为零时，上界是紧的，当v=µ和c=σ时成立。对于其余项，很明显，−log s是s中的单调递减函数，−logs→∞为s→0。因此，当v=µ和c=σ时，方程ϕ（z|x）[log pθ（x|z）]在s=0时最大。这意味着

$$\begin{aligned} p_{\theta}(x|z) &= \mathcal{N}(x|\sigma z + \mu, 0) \\ &= \delta(x - (\sigma z + \mu))\,. \tag{11} \end{aligned}$$

VAE中的优化

在前两小节中，我们介绍了VAE和ELBO的构建块。本小节的目的是讨论如何训练VAE以及如何进行推理。

结论性意见

对于正在寻找其他参考文献的读者，我们强烈推荐金玛和韦林[24]的教程，该教程基于他们最初的VAE论文[23]。Doersch等人[12]的简短教程也可能有所帮助。[24]包括一长串优秀的论文，其中包括Rezende和Mohamed[32]关于归一化流动的论文，该论文与Kingma和Welling的VAE论文大约同时发表。
VAE与经典变分推理和图形模型有很多联系[45]。VAE也与Goodfellow等人[15]的生成对抗网络（GAN）有关。Kingma和Welling在[24]中评论说，VAE和GAN具有互补的性质；虽然GAN产生了更好的感知质量图像，但与数据可能性的联系较弱。VAE可以更好地满足数据似然标准，但样本有时在感知上并不那么好。

去噪扩散概率模型（DDPM）

在本节中，我们将讨论扩散模型。关于如何推导扩散模型，有许多不同的观点，例如分数匹配、微分方程等。我们将遵循Ho等人[16]关于去噪扩散概率模型的原始论文中概述的方法。
在我们讨论数学细节之前，让我们从VAE扩展的角度总结DDPM：
扩散模型是增量更新，其中整体的组装为我们提供了编码器-解码器结构。
为什么要增加？这就像改变一艘大船的方向。你需要把船慢慢转向你想要的方向，否则你会失去控制。同样的原则也适用于贵公司的人力资源和大学管理。
一次弯曲一英寸。
好了，不玩玄的了，让我们回到我们的业务。

DDPM与Sohl-Dickstein等人2015年的一项早期工作有很多联系[38]。Sohl-Dickstein等人提出了如何从一种分布转换到另一种分布的问题。VAE提供了一种方法：参考上一节，我们可以将源分布视为潜在变量 $z\sim p(z)$ ，目标分布为输入变量 $x \sim p(x)$ 。然后，通过设置代理分布pθ（x|z）和qϕ（z|x），我们可以训练编码器和解码器，使解码器能够实现生成图像的目标。但是VAE在很大程度上是一步生成的——如果你给我们一个潜码z，我们要求神经网络fθ（·）立即返回生成的信号x∼N（x|fθ（z），σdec 2 I）。从某种意义上说，这对神经网络要求很高。我们要求它使用几层神经元立即从一个分布p（z）转换到另一个分布p（x）。这太过分了。

分数匹配朗之万动力学（SMLD）

基于分数的生成模型[42]是从所需分布生成数据的替代方法。有几个核心要素：朗之万方程、（Stein）得分函数和得分匹配损失。本节的重点是后两者。我们将对朗之万方程进行一些简单的论证，并解释如何使其在计算上适用于我们的生成任务。关于朗之万方程的更深入讨论将推迟到下一节。

随机微分方程（SDE）

在前两节中，我们通过DDPM和SMLD的视角研究了扩散模型。在本节中，我们将通过微分方程的透镜研究扩散模型。正如我们在讨论朗之万方程时提到的，朗之万方程式的稳态解是一个随机变量，其概率分布满足福克-普朗克方程。迭代算法和微分方程之间这种不同寻常的联系使这个话题非常有趣。本节的目的是提供随机微分方程的基本原理以及如何使用它们来理解扩散模型。

朗之万和福克-普朗克方程

最近许多关于扩散模型的论文要么专注于提高图像生成质量（通过将其推广到语义上更有意义的图像），要么将其应用于新领域的问题（如医学数据）。为了帮助初学者更好地理解这些应用程序的基础，我们想通过讨论与扩散模型相关的随机微分方程的物理学来回溯时间。通过研究这些SDE的基本原理，我们希望更深入地了解这些方程的来源。

更具体地说，我们有兴趣研究与扩散相关的两组主要方程：朗之万方程和福克-普朗克方程。本节有几个目标。首先，我们想讨论朗之万方程的起源，并解释为什么它与扩散模型有关。我们想解释马尔可夫过程的一般性质及其相关的微分方程。最后，我们想展示福克-普朗克方程是如何推导出来的，并讨论为什么它在扩散模型中起着重要作用。

布朗运动

历史视角。1827年，植物学家罗伯特·布朗观察到一种现象，即小花粉粒在水中会有不规则的运动[6]。花粉粒的运动后来被称为布朗运动。布朗运动的解释是由阿尔伯特·爱因斯坦于1905年提出[14]，大约在同一时间由Marian Smoluchowski独立提出[44]。爱因斯坦的主要论点是花粉粒的运动是由水分子的影响引起的。然而，由于系统中有数万亿个分子，我们永远不知道单个分子的初始状态，因此几乎不可能使用经典分析来研究显微镜状态。爱因斯坦证明了均方位移可以与扩散系数相关，因此他通过考虑分子的统计行为引入了一种概率方法。爱因斯坦的理论预测随后得到了让-巴蒂斯特·佩兰的实证证实，佩兰后来于1926年获得了诺贝尔物理学奖。自1908年Einstien的论文发表几年后，法国物理学家Paul Langevin构建了一个随机马尔可夫力来描述粒子的碰撞和相互作用。随后，荷兰物理学家Adriaan Fokker于1914年和德国物理学家Max Planck于1917年分别提出了偏微分方程，该方程现在被称为Fokker-Planck方程。Kramers-Moyal展开是由Hans Kramers于1940年和Jos´e Enrique Moyal于1949年提出的，它展示了一种泰勒展开技术来描述概率分布的时间演化。

布朗运动的推导。那么，什么是布朗运动，它与扩散模型有什么关系？假设流体中悬浮着一个粒子。斯托克定律指出，施加在粒子上的摩擦力由下式给出：

$$F(t) = -\alpha\mathrm{v}(t)\,, \tag{133}$$

其中F是摩擦力，v是速度，$\alpha = 6\pi\mu\mathcal{R}$ 。这里，R是粒子的半径，µ是流体的粘度。根据牛顿第二定律，我们进一步知道 $F(t) = m\dot{v}(t)$ ，其中m是粒子的质量。将这两个方程式相等

$$\begin{cases} F(t) = -\alpha\mathrm{v}(t)\\ F(t) = m\frac{dv(t)}{dt}\,, \end{cases}$$

我们将得到以下微分方程

$$m\frac{dv(t)}{dt} + \alpha v(t) = 0.$$

通过定义 $\gamma\overset{def}{=}\frac{\alpha}{m},可以简化上式为：

$$\frac{dv(t)}{dt} + \gamma v(t) = 0. \tag{134}$$

结论

本教程涵盖了最近文献中基于扩散的生成模型的一些基本概念。我们发现，深入了解这些基本原则，而不是停留在Python编程的表面，这一点尤为重要。
在撰写本教程时，我们学到了一些值得分享的经验教训。DDPM的开发在许多意义上都是VAE的扩展，无论是在结构、证据下限的使用还是重新参数化技巧方面。虽然DDPM仍然是最先进的方法之一，但如果未来的模型能够避免任何迭代，那将是更理想的。最近的一些论文开始探索使用知识蒸馏来减少迭代次数的可行性。一些人正在通过借鉴微分方程文献的思想来研究加速方法。
对于对成像感兴趣的读者来说，分数匹配朗之万动力学可能会在解决逆问题方面继续发挥重要作用。分数匹配函数的训练几乎与训练图像去噪器相同，分数匹配步骤的应用与去噪步骤相同。因此，一旦我们知道如何将逆问题分解为正向模型和先验分布，我们就可以利用分数匹配来执行后验采样。最近的方法也开始探索不同形式的贝叶斯扩散模型，以连接物理模型和数据驱动模型。
SDE和Fokker-Planck方程为SMLD方程以某种方式推导的原因提供了很好的理论直观。从历史上看，SMLD的发展似乎并不是从SDE开始的，但今天的认识有助于我们理解解决方案统计的行为。
展望未来，扩散模型面临的最大挑战是与物理世界的一致性，更不用说其高计算复杂性了。针对特定班级的学习将继续具有影响力。例如，可以使用手机上的图库图像训练定制的扩散模型。时间一致性将要求具有更多内存的更大模型来存储帧。需要新的架构来利用模型中不断增加的时间输入。另一个悬而未决的问题是如何将语言和语义引入图像生成。图像应该继续表示为像素阵列（或特征像素），还是有新的方法可以在不丢失信息的情况下使用几个单词来描述场景？最后，在我们能够制定有效的对策（或政策）之前，信息取证将是未来几十年的最大挑战。