关于 CNF 中时间依赖微分同胚映射的理解

在连续归一化流 (CNF) 中，时间依赖微分同胚映射是将简单分布（如标准正态分布）转化为复杂数据分布的关键机制。它通过一个随时间变化的向量场 $v_t(x)$ 来实现，这个向量场决定了概率密度函数从初始分布 $p_\theta(x)$ 到目标分布 $p_1(x)$ 的演化过程。这个演化过程可以通过一个微分同胚映射 $\phi_t$ 来描述，它将时间 $t$ 的概率密度函数 $p_t(x)$ “推” 向时间 $t+dt$ 的概率密度函数 $p_{t+dt}(x)$。

微分同胚映射的定义

微分同胚映射 $\phi_t$ 拥有以下性质：

• 双射: $\phi_t$ 是一个一一映射，也就是说，对于每一个 x，都有唯一一个 y 与之对应，反之亦然。
• 可微: $\phi_t$ 和它的逆映射 $\phi_t^{−1}$ 都是可微的，这意味着它们是光滑且连续的。
• 保向: $\phi_t$ 保持空间的方向，也就是说，它不会翻转或扭曲空间。

这些性质保证了 $\phi_t$ 可以将一个概率密度函数平滑地转化为另一个概率密度函数，并且不会丢失任何信息。

微分同胚映射的构建

微分同胚映射 $\phi_t$ 是通过求解以下常微分方程 (ODE) 得到的:

$$\frac{d}{dt} \phi_t(x) = v_t(\phi_t(x))$$

$$\phi_0(x) = x$$

其中 $v_t(x)$ 是 CNF 模型学习到的时间依赖向量场。这个 ODE 描述了在向量场 $v_t(x)$ 的作用下，点 $x$ 随时间的运动轨迹。$\phi_tt(x)$ 则表示从初始时刻 $t=0$ 开始，沿着这条轨迹运动到时间 $t$ 时所到达的点。

连续性方程的作用

连续性方程可以用来验证向量场 $v_t(x)$ 是否能够正确地引导概率密度函数的演化。它表明概率密度的变化率必须与其“流动”情况相互抵消，以保证总概率守恒。

总结

时间依赖微分同胚映射是 CNF 模型的核心概念之一，它通过一个随时间变化的向量场来实现概率密度函数的平滑转化。连续性方程则确保了这个转化过程的有效性。