Diffusion Model 基础

生成模型

---

常见的生成模型有：

• GAN
• VAE
• Flow-based
  
  与 VAE 或Flow-based 模型不同，扩散模型是通过固定的过程学习的，latent variable 具有高维度（与原始数据相同）。

---

文生图模型的基本架构如下：

• 文本编码器（Text Encoder）用于编码文本的输入
• 生成模型 （Generation Model）输入文字和杂讯，生成一个中间产物（这个中间产物可以是人看得懂的一个压缩图片，也可以是噪音）
• 解码器 （Decoder） 解码器，输入中间产物，得到最终的输出的图片。
  通常而言，上述的三个模型是分开训练的，最后组合到一起。
  
• 例如 Stable Diffusion
  
• DALL-E
  
• Imagen
  

---

衡量图像生成质量的指标

• FID
  将生成的图片和真是的图片都输入到预训练好的CNN模型中，然后计算输出高斯分布的Frechet的距离。其值越小越好。
  
• CLIP score
  将生成的图片和输入的文本提示，分别送入Image encoder 和text encoder ,计算二者输出的距离。如果图像文本匹配，则距离越近越好。如果不匹配，则其距离越远越好。CLIP score的得分越大越好。
  

DDPM概述

• 基本思想
  Denoising Diffusion Probabilistic Models (DDPM)
  受非平衡统计物理启发[1]，是通过一个迭代的向前扩散过程 ，系统地、缓慢地破坏数据分布中的结构。然后，我们学习一个逆扩散过程，将数据中的结构恢复，从而产生一个高度灵活且易于处理的数据生成模型。

💡 原文中作者对于基本思想的描述：“The essential idea, inspired by non-equilibrium statistical physics [1], is to systematically and slowly destroy structure in a data distribution* through an iterative forward diffusion process. We then learn a reverse diffusion process that restores structure in data, yielding a highly flexible and tractable generative model of the data.”

• 核心步骤

基于上述思想，Denoising diffusion 模型包括两个过程：

• 向前扩散过程 (Forward Diffusion): 逐渐向输入添加噪声
• 反向去噪过程 (Reverse Denoising): 学习通过去噪生成数据
  

向前扩散过程

前向扩散的逐步过程

首先，我们先来介绍一下如何破坏数据分布。

前向扩散过程中的输入和输出

如果我们取任何一幅图像（上图a），它具有某种非随机分布。我们不知道这个分布，但我们的目标是破坏它，我们可以通过向其添加噪声来实现。在这个过程的最后，我们应该得到类似于纯噪声的噪声（上图b）。

T0时刻： 将噪音线性添加到图片上，得到的新图片作为T1时刻的输入

T1时刻： 将噪音线性添加到T0时刻的输出，得到的新图片作为T2时刻的输入

Tn时刻： 在最后一个step，原始的信息被完全破坏，得到一个纯噪音的图片。

前向扩散过程的每一步被定义为$$q(x_t|x_{t-1})=\mathcal{N}\left(x_t,\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_{t}I\right)$$
其中$q$是前向扩散过程，$x_t$是第$t$步前向过程的输出（自然地，$x_{t-1}$是第$t$步的输入）。$\mathcal{N}$是一个正态分布，$\sqrt{1-{\beta }_t}{x}_{t-1}$是均值，${\beta }_{t}I$定义了一个方差。

---

调度 (Schedule)
${\beta }_t$被称为调度(schedule)，其值范围从0到1不等。通常将值保持在较低水平，以防止方差爆炸。

• 线性调度（Linear Schedule）

DDPM论文 [2] 使用了一个线性调度，因此输出看起来如下图：

使用线性调度(linear schedule)的前向扩散模型的1000个时间步

在线性调度的情况下，${\beta }_t$从0.0001线性增加到0.02， 均值和方差也随着时间步线性变化（如下图）。

均值和方差随着时间步的变化过程

• 余弦调度（Cosine Schedule）

OpenAI的研究人员在他们的2021年论文中 [3] 发现使用线性调度并不那么高效。因此提出了余弦调度（下图）。这种改进使得步骤数减少到50步。

使用余弦调度(cosine schedule)的前向扩散模型的50个时间步

前向扩散的整体过程

使用前向扩散过程向图像添加噪声将会很慢。训练过程不使用与前向过程一致的示例，而是使用来自任意时间步 t 的样本。这意味着在每个训练步骤中，我们需要通过 t 步来生成 1 个训练样本。
$$q\left(x_{1:T}\mid x_0\right):=\prod _{t=1}^{T}q\left(x_t\mid x_{t-1}\right)$$
接下来，我们对上式进行逐步分解：
$$q_t\left(q_{t-1}\left(q_{t-2}\left(q_{t-3}\left(\cdots q_1\left(x_0\right)\right)\right)\right)\right)$$
$t_1$时刻
$$q\left(x_1\mid x_0\right)=\mathcal{N}\left(x_1,\sqrt{1-{\beta }_1}{x}_0,{\beta }_{1}I\right)$$
$t_2$时刻
$$q\left(x_2\mid x_1\right)=\mathcal{N}\left(x_2,\sqrt{1-{\beta }_2}{x}_1,{\beta }_{2}I\right)$$
从上面的公式可以看到，只有均值是依赖于上一步的输出，方差对于任意一步都是已知的（因为$\beta$ 对于每一个时间步都是已知的）。
因此，引入下面两个记号：
$$\begin{array}{rl}{\alpha }_t& =1-{\beta }_t\\ {\bar{\alpha }}_t& :=\prod _{s=1}^t{a}_s\end{array}$$
代入上述记号，每一步的加噪公式变为：
$$q\left(x_1\mid x_0\right)=\mathcal{N}\left(x_1,\sqrt{{\alpha }_1}{x}_0,\left(1-{\alpha }_1\right)I\right)$$
$$q\left(x_2\mid x_1\right)=\mathcal{N}\left(x_2,\sqrt{{\alpha }_2}{x}_1,\left(1-{\alpha }_2\right)I\right)$$
整个过程的均值计算如下：
$$\begin{array}{c}{\mu }_t=\sqrt{{\alpha }_t}{x}_{t-1}\\ =\sqrt{{\alpha }_t}\ast \sqrt{{\alpha }_{t-1}}{x}_{t-2}=\sqrt{{\alpha }_t{\alpha }_{t-1}}{x}_{t-2}\\ =\sqrt{{\alpha }_t{\alpha }_{t-1}}\ast \sqrt{{\alpha }_{t-2}}{x}_{t-3}=\sqrt{{\alpha }_t{\alpha }_{t-1}{\alpha }_{t-2}}{x}_{t-3}\\ =\sqrt{{\alpha }_t{\alpha }_{t-1}{\alpha }_{t-2}\cdots }\ast \sqrt{{\alpha }_1}{x}_0=\sqrt{{\alpha }_t{\alpha }_{t-1}{\alpha }_{t-2}\cdots {\alpha }_1}{x}_0\\ =\sqrt{{\bar{\alpha }}_t}{x}_0\end{array}$$
最终可以写出从 0 到 t 的整个过程的公式：
$$q\left(x_t\mid x_0\right)=\mathcal{N}\left(x_t,\sqrt{{\bar{\alpha }}_t}{x}_0,\left(1-{\bar{\alpha }}_t\right)I\right)$$

然而上述的过程是无法计算的，需要对每一步前向步骤应用重参数化技巧: $\mathcal{N}\left(\mu ,{\sigma }^2\right)=\mu +\sigma \ast ϵ$, 其中$ϵ$来自于$\mathcal{N}(0,1)$
$$\begin{array}{c}q\left(x_t\mid x_{t-1}\right)=\mathcal{N}\left(x_t,\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_{t}I\right)\\ =\sqrt{1-{\beta }_t}{x}_{t-1}+\sqrt{{\beta }_t}ϵ\end{array}$$
因为我们知道 $t=\mathrm{1..}T$ 的公式是什么，我们可以使用这个技巧来得到可计算的方程式。
$$\begin{array}{c}q\left(x_t\mid x_{t-1}\right)=\mathcal{N}\left(x_t,\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_{t}I\right)\\ =\sqrt{1-{\beta }_t}{x}_{t-1}+\sqrt{{\beta }_t}ϵ\end{array}$$

反向去噪过程

---

可视化步骤

第 t 步： 从预测的噪声中取一部分，并将其从输入中减去。减法量由调度定义。第一步只减去预测噪声的一小部分，后续步骤逐渐减去更多预测的噪声。

将第t步的输出变成第t-1步的输入

第t-1步：再次生成整个噪声，这一次取更多的噪声并从输入中减去（因为 beta 增加），输出的结果作为t-2步的输入

第1步：得到最终生成的图像

---

数学推导
论文中定义的反向去噪的公式如下：
$$p_{\theta }\left(x_{0:T}\right):=p\left(x_T\right)\prod _{t=1}^T{p}_{\theta }\left(x_{t-1}\mid x_t\right)$$
其中
$$p_{\theta }\left(x_{t-1}\mid x_t\right)=\mathcal{N}\left(x_{t-1},{\mu }_{\theta }\left(x_t,t\right),\sum _{\theta }\left(x_t,t\right)\right)$$
扩散过程 $p_{\theta }\left(x_{0:T}\right)$是一个从$p(x_T)$开始的高斯转换链 (chain of gaussian transitions)，使用一个扩散过程步骤的方程在 𝑇 次迭代中进行，即$p_{\theta }\left(x_{t-1}\mid x_t\right)$。

$\mathcal{N}\left(x_{t-1},{\mu }_{\theta }\left(x_t,t\right),{\sum }_{\theta }\left(x_t,t\right)\right)$ 包含两个部分 :

• 第一个部分是均值 ${\mu }_{\theta }\left(x_t,t\right)$

$${\mu }_{\theta }\left(x_t,t\right)=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_{\theta }\left(x_t,t\right)\right)$$

• 第二部分是方差${\sum }_{\theta }\left(x_t,t\right)$ （等于${\sigma }_t^{2}I$）
  方差是不可训练的，但是依赖于时间变化，即${\beta }_{T}I$ (这里的$\beta$ 和前向过程中的$\beta$一致，都表示的是调度)

这里先不涉及具体的推导，只是简单介绍下流程，具体的推导可以参考论文中的Appendix A [2] 和Lilian Weng的博文[b.5]

这样，我们可以得到$x_{t-1}$
$$x_{t-1}=\mathcal{N}\left(x_{t-1},\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_{\theta }\left(x_t,t\right)\right),\sqrt{{\beta }_t}ϵ\right)$$
进一步的，我们计算给定时间步t时刻的输出：
$$x_{t-1}=\frac{1}{\sqrt{a_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-\bar{\alpha }}}{ϵ}_{\theta }\left(x_t,t\right)\right)+\sqrt{{\beta }_t}ϵ$$
其中${ϵ}_{\theta }\left(x_t,t\right)$ 是模型的输出，即预测出的噪音。

网络结构

模型架构是修改后的 U-Net 架构 [4]。它非常简单，但随着对扩散模型的进一步改进（例如，Stabel Diffusion 增加了整个潜在层用于图像数据嵌入）。在这里，我们先只讨论Diffusion Model的最初版本

首先修改的Unet 架构，将基础的ResNetBlock替换成Self-Attention Block， 或者修改后的ResNet Block。

然后，为了防止信息丢失，添加跳跃连接（skip connection）

下一步是添加关于当前时间步 t 的信息。为此，我们使用正弦嵌入（sinusoidal embedding），该信息被添加到所有下采样和上采样块中。

为了使网络是条件化的（依赖于外部输入），我们添加了一个文本嵌入器。它将为给定的文本创建嵌入，并将输出向量添加到时间步嵌入中。

---

ResNet Block
ResNet Block的结构如下，被用于下采样和上采样块的一部分。

---

Downsample Block

下采样块是第一个不仅接收来自前一层的数据，还接收有关时间步长和提示的数据的块。该块具有2个输入，并且表现为 U-Net 架构中的标准下采样。它接收输入并将其下采样到下一层的大小。
它使用 MaxPool2d 层（核大小为2），将输入大小减半（64x64 -> 32x32）。之后，连接2个 ResNet 块。
嵌入经过 Sigmoid 线性单元处理，然后通过一个简单的Linear层，以达到与 ResNet 块输出相同的形状。之后，两个张量相加，并发送到下一个块。

---

Self-Attention Block

所有的注意力块的结构都相同，所以将用第一个来描述所有的注意力块（就在第一个下采样之后）。

首先，它接收一个形状为 (128, 32, 32) 的下采样张量。
然后，对输入张量进行reshape: 压缩最后两个维度，然后翻转得到的张量（(128,32,32) -> (128, 1024) -> (1024, 128)）并通过层归一化，并将其用作所有 3 个输入张量（Q、K、V）
接着，输入到一个多头注意力（Multi-Head Attention， MHA），嵌入维度设置为 128，有 4 个注意力头。嵌入维度在注意力块之间变化（取决于输入长度），而头的数量保持不变。

在块内部，作者添加了两个跳跃连接，与自注意力输出组合。
第一个连接将reshape 后的输入添加到注意力层的输出中，并通过前向层（Normalization -> Linear -> GELU -> Linear）传递。
第二个连接从该层获取输出，并将其添加回注意力的输出。

最后，我们需要对张量进行reshape，最终输出的大小和输入大小一致（(1024, 128) -> (128, 32, 32)）。

---

Upsample block

使用一个简单的上采样层，缩放因子为2。
通过上采样层传递输入张量后，我们可以将其与残差连接（来自第一个 ResNet 块）连接起来。现在，它们两者的形状都是 (64, 64, 64)。
连接的张量然后通过 2 个 ResNet 块发送（与我们在下采样块中所做的相同）
第三个输入（再次与下采样块中相同）通过 SILU 和线性层发送，然后添加到第二个 ResNet 块的结果中。
整个架构以 Conv2d 层结束，该层使用核大小为 1，将我们的张量从 (64,64,64) 缩放回 (3, 64,64)。这是我们预测的噪声。

训练和推理过程

训练过程

上图是训练的伪代码：

• 数据集中采样一张图片$x_0$
• 采样一个时间步 $t$
• 从正态分布中采样一个噪音$ϵ$
• 前面我们定义过了如何在时间步t时刻，在无需迭代的情况下前向加噪$q\left(x_t\mid x_0\right)=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ$， 然后用梯度下降去训练网络模型${ϵ}_{\theta }$ (${ϵ}_{\theta }$是用于学习生成噪音的模型Noise Predicter)。
• 然后重复整个过程，直到模型最终收敛。

下图是训练过程的第5步的图解：

下图是Noise Predicter 的图解实例，它的输入有两个：一个是时间步t, 另外一个是时间步t时刻对应的添加的噪音。

下图是实际的训练过程。input和ground truth和时间步 来自于前向加噪的过程。在实际应用中，Noise Predicter 还会有个文本提示的输入。

推理过程

推理

上图是推理的伪代码：
1） 先从标准高斯分布中采样一个噪音
2）从时间步$T$开始，逐步推理前一步的输出 （输入t时刻的带噪图片$x_t$，生成t-1时刻的带噪音图片$x_{t-1}$）。

优化目标

对于真实的图片分布$P_{data}$中采样一些图片$x^1,x^2,x^3...$ 。然后从一个标准的高斯分布中采样一个噪音，通过生成网络(需要训练的参数集是$\theta$) 得到生成图片的分布。
优化的目标是，对于给定的图片$x^i$, 生成网络生成$x^i$的概率越大越好。

最大化生成分布和真实分布的相似性 等价于 最小化二者的KL散度，推理步骤如下：

第一行：取log 并不印象最大化的计算
第二行：根据log的计算性质进行变换$log(x_1)\ast log(x_2)=log(x_1+x_2)$； 最终的求和式子近似于计算 期望值
第三行：用连续积分的形式计算期望，后面减去的部分是和 $\theta$ 不相关的，不会影响最大化的结果。
第四行：$log(x_1-x_2)=log(x_1)/log(x_2)$ 最终变换成KL散度的形式。

详细数学推导

数学基础

---

高斯分布
定义：随机变量X服从一个数学期望$\mu$、方差为$\sigma$的高斯分布，又名正态分布。
当$\mu =0,\sigma =1$时的正态分布是标准正态分布。
高斯分布概率密度函数（正态随机变量概率密度函数）：
$$f(x)=\frac{1}{\sqrt{2\pi }\sigma }\exp \left(-\frac{(x-\mu {)}^2}{2{\sigma }^2}\right)$$

---

两个高斯分布相加
已知两个独立的高斯分布：
$$N_1\sim \left(u_1,{\delta }_1^2\right),N_2\sim \left(u_2,{\delta }_2^2\right)$$
这两个高斯分布的和，仍然是一个高斯分布
$$N_1+N_2\sim \left(u_1+u_2,{\delta }_1^2+{\delta }_2^2\right)$$
同理，这两个高斯分布的差为：
$$N_1-N_2\sim \left(u_1-u_2,{\delta }_1^2+{\delta }_2^2\right)$$

---

重参数化
$$N\left(\mu ,{\sigma }^2\right)=\mu +\sigma \ast ϵ$$
其中$ϵ$来自于$\mathcal{N}(0,1)$

---

贝叶斯定理
条件概率：在已知一个事件 $B$ 发生的情况下，此时另一个事件A发生的概率，符号表示为 $P(A\mid B)$ ，它等于联合概率 $P(A,B)$ 除以边缘分布 $P(B)$, 即:
$$P(A\mid B)=\frac{P(A,B)}{P(B)}$$
或可以写成:
$$P(A,B)=P(A\mid B)\cdot P(B)$$
表示事件A,B联合概率等于在B发生的条件下A发生的条件概率乘以B事件发生概率。
由于P(A,B)也等于P(B|A)P(A) （P(A,B)与P(B,A)含义相同，数值相等），所以推导出贝叶斯公式：
$$P(A\mid B)=\frac{P(A,B)}{P(B)}=\frac{P(B\mid A)\cdot P(A)}{P(B)}$$

---

KL散度

向前扩散过程

给定从真实数据分布中采样的数据点 ${\mathbf{x}}_0\sim q(\mathbf{x})$，让我们定义一个前向扩散过程，在其中我们在 $T$ 步中向样本添加小量的高斯噪声，产生一系列带有噪声的样本 ${\mathbf{x}}_1,\dots ,{\mathbf{x}}_T$。步长由方差调度 { β t ∈ ( 0 , 1 ) } t = 1 T \left\{\beta_t \in(0,1)\right\}_{t=1}^T {βt​∈(0,1)}t=1T​控制。
$$q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1}\right)=\mathcal{N}\left({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I}\right)q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)=\prod _{t=1}^{T}q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1}\right)$$
随着步长$t$的增大，数据样本${\mathbf{x}}_0$逐渐失去其可区分的特征。最终，当$T$趋向于正无穷时，${\mathbf{x}}_{\mathbf{t}}$等效于一个各向同性的高斯分布。

通过逐渐添加（去除）噪声生成样本的前向（反向）扩散过程的马尔可夫链。

我们可以使用重参数化技巧在任意时间步$t$中以封闭形式对${\mathbf{x}}_{\mathbf{t}}$进行采样。
令 ${\alpha }_t=1-{\beta }_t$ ，${\bar{\alpha }}_t={\prod }_{i=1}^t{\alpha }_i$
$$\begin{array}{rl}& {\mathbf{x}}_t=\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}+\sqrt{1-{\alpha }_t}{\mathbf{ϵ}}_{t-1};\text{ where }{\mathbf{ϵ}}_{t-1},{\mathbf{ϵ}}_{t-2},\cdots \sim \mathcal{N}(0,\mathbf{I})\\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{\mathbf{x}}_{t-2}+\sqrt{1-{\alpha }_t{\alpha }_{t-1}}{\overline{ϵ}}_{t-2};\text{ where }{\overline{\mathbf{ϵ}}}_{t-2}\text{ merges two Gaussians }\left({}^{\ast }\right)\text{. }\\ & =\dots \\ & =\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}\mathbf{ϵ}\\ & q\left({\mathbf{x}}_t\mid {\mathbf{x}}_0\right)=\mathcal{N}\left({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,\left(1-{\bar{\alpha }}_t\right)\mathbf{I}\right)\\ & \end{array}$$

将两个具有不同方差的高斯分布
$\mathcal{N}\left(0,{\sigma }_1^2\mathbf{I}\right)$ 和$\mathcal{N}\left(0,{\sigma }_2^2\mathbf{I}\right)$合并，得到的新的分布是：$\mathcal{N}\left(0,\left({\sigma }_1^2+{\sigma }_2^2\right)\mathbf{I}\right)$.
将${\mathbf{x}}_{t-1}=\sqrt{{\alpha }_{t-1}}{\mathbf{x}}_{t-2}+\sqrt{1-{\alpha }_{t-1}}{\mathbf{ϵ}}_{t-2}$ 代入当上式中，得到：
$$\begin{gathered} x_t=\sqrt{a_t}\left(\sqrt{a_{t-1}}{x}_{t-2}+\sqrt{1-{\alpha }_{t-1}}{\mathbf{ϵ}}_2\right)+\sqrt{1-{\alpha }_t}{z}_1 \\ =\sqrt{a_t{a}_{t-1}}{x}_{t-2}+\left(\sqrt{a_t\left(1-{\alpha }_{t-1}\right)}{\mathbf{ϵ}}_2+\sqrt{1-{\alpha }_t}{z}_1\right) \end{gathered}$$
由于每次加入的噪音${\mathbf{ϵ}}_1$和${\mathbf{ϵ}}_2$都服从标准高斯分布 $\mathcal{N}\sim (0,I)$。
则$\sqrt{a_t\left(1-{\alpha }_{t-1}\right)}{z}_2\sim N(0,a_t(1-a_{t-1}))$ , $\sqrt{1-{\alpha }_t}{z}_1\sim N(1-a_t)$
这两个分布相加
$$\sqrt{a_t\left(1-{\alpha }_{t-1}\right)}{z}_2+\sqrt{1-{\alpha }_t}{z}_1\sim N(0,\left(1-{\alpha }_t\right)+{\alpha }_t\left(1-{\alpha }_{t-1}\right))=N(0,1-{\alpha }_t{\alpha }_{t-1})$$

通常，当sample变的noise后，我们可以采用更大的更新率。因此${\beta }_1<{\beta }_2<\cdots <{\beta }_T$ ，${\bar{\alpha }}_1>\cdots >{\bar{\alpha }}_T$.

---

与随机梯度Langevin动力学的联系
Langevin 动力学是物理学中的一个概念，用于统计建模分子系统。结合随机梯度下降，随机梯度 Langevin 动力学（ stochastic gradient Langevin dynamics）可以使用更新的马尔可夫链中的梯度${\nabla }_{\mathbf{x}}\log p(\mathbf{x})$来从概率密度$p(\mathbf{x})$中产生样本：
$${\mathbf{x}}_t={\mathbf{x}}_{t-1}+\frac{\delta }{2}{\nabla }_{\mathbf{x}}\log p\left({\mathbf{x}}_{t-1}\right)+\sqrt{\delta }{\mathbf{ϵ}}_t,\text{ where }{\mathbf{ϵ}}_t\sim \mathcal{N}(0,\mathbf{I})$$
其中$\delta$ 是 step size. 当 $T\to \infty ,ϵ\to 0,{\mathbf{x}}_T$ 等同于true probability density $p(\mathbf{x})$.
与标准随机梯度下降相比，随机梯度 Langevin 动力学在参数更新中注入高斯噪声，以避免陷入局部最小值。

反向去噪过程

如果我们能够反转上述过程并从 $q\left({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t\right)$ 中采样，我们将能够从高斯噪声输入 ${\mathbf{x}}_T\sim \mathcal{N}(0,\mathbf{I})$ 中重新创建真实样本。请注意，如果 ${\beta }_t$ 足够小，$q\left({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t\right)$ 也将是高斯分布。不幸的是，我们无法轻松地估计 $q\left({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t\right)$，因为它需要使用整个数据集，因此我们需要学习一个模型 $p_{\theta }$ 来近似这些条件概率，以便运行反向扩散过程。
$$p_{\theta }\left({\mathbf{x}}_{0:T}\right)=p\left({\mathbf{x}}_T\right)\prod _{t=1}^T{p}_{\theta }\left({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t\right)p_{\theta }\left({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t\right)=\mathcal{N}\left({\mathbf{x}}_{t-1};{\mathbf{\mu }}_{\theta }\left({\mathbf{x}}_t,t\right),{\mathbf{\Sigma }}_{\theta }\left({\mathbf{x}}_t,t\right)\right)$$

训练扩散模型来建模 2D swiss roll 数据的示例。

当条件是$x_0$时，反向条件概率是可处理的。

使用Bayes法则，可以得到

其中 $C\left({\mathbf{x}}_t,{\mathbf{x}}_0\right)$ 是某个不涉及 ${\mathbf{x}}_{t-1}$ 的常数项，不影响。

对于上式的第一行，利用贝叶斯定理展开后的三项都是已知的：
$$\begin{array}{rl}& q\left({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_0\right)\sqrt{\overline{a_t}-1}{x}_0+\sqrt{1-\overline{a_t}}-1\sim \mathcal{N}\left(\sqrt{\overline{a_t}}-1,x_0,1-\overline{a_{t-1}}\right)\\ & q\left({\mathbf{x}}_t\mid {\mathbf{x}}_0\right)\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}z\sim \mathcal{N}\left(\sqrt{{\bar{\alpha }}_t}{x}_0,1-{\bar{\alpha }}_t\right)\\ & q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1},{\mathbf{x}}_0\right)=\sqrt{a_t}{x}_{t-1}+\sqrt{1-{\alpha }_t}z\sim \mathcal{N}\left(\sqrt{a_t}{x}_{t-1},1-{\alpha }_t\right)\end{array}$$
将标准正态分布展开之后，因为是指数运算，乘法相当于加法，除法相当于减法。因此可以得到第二行。
第三行和第四行进行展开成如下的格式：
$$\exp \left(-\frac{(x-\mu {)}^2}{2{\sigma }^2}\right)=\exp \left(-\frac{1}{2}\left(\frac{1}{{\sigma }^2}{x}^2-\frac{2\mu }{{\sigma }^2}x+\frac{{\mu }^2}{{\sigma }^2}\right)\right)$$
这样可以进一步的进行配方，得到均值和方差。

按照标准高斯密度函数，均值和方差可以参数化如下（回想一下 ${\alpha }_t=1-{\beta }_t$ 和 ${\bar{\alpha }}_t={\prod }_{i=1}^T{\alpha }_i)$

上式均值中$x_0$是未知的，但是我们可以通过从$x_0$生成$x_t$的公式逆过来，得到${\mathbf{x}}_0=\frac{1}{\sqrt{{\bar{\alpha }}_t}}\left({\mathbf{x}}_t-\sqrt{1-{\bar{\alpha }}_t}{ϵ}_t\right)$ 代入上式，得到：

然而${ϵ}_t$仍然是未知的，这个就是用Unet预测的每个时刻的噪音。

Stable Diffusion

Stable Diffusion（SD）模型,可以用于文生图，图生图，图像inpainting，ControlNet控制生成，图像超分等丰富的任务。

• 文生图任务是指将一段文本输入到SD模型中，经过一定的迭代次数，SD模型输出一张符合输入文本描述的图片。
  
• 图生图任务在输入本文的基础上，再输入一张图片，SD模型将根据文本的提示，将输入图片进行重绘以更加符合文本的描述。
  

组成结构

Stable Diffusion 是一个系统，由几个组件和模型构成，而非单独一个模型。

---

Text Encoder
功能：对输入的文本进行编码。
实现：CLIP 模型中的文本编码器
输入：文本
输出：77个表征向量，每个有768维度

---

Image Information Creator
功能：逐渐处理/扩散信息到潜在（信息）空间。
实现：Unet网络+Scheduler
输入：文本向量 和 起始多维数组（结构化的数字列表，也叫Tensor）由噪声组成。
输出：处理后的信息数组

输入：
1） 如果是图生图任务，我们在输入文本信息的同时，还需要将原图片通过图像编码器（VAE Encoder）生成Latent Feature（隐空间特征）作为输入。
2) 如果是文生图任务，我们只需要输入文本信息，再用random函数生成一个高斯噪声矩阵作为Latent Feature的“替代”输入

组成：
1）U-Net网络负责预测噪声，不断优化生成过程，在预测噪声的同时不断注入文本语义信息。
2）schedule算法对每次U-Net预测的噪声进行优化处理（动态调整预测的噪声，控制U-Net预测噪声的强度），从而统筹生成过程的进度。

---

Image Decoder
图像解码器通过前置信息生成器得到的信息来生成图像。它只在最后的运行一次来生成最终的像素图像。
输入：处理过的信息数组（维度:(4,64,64)）
输出：结果图像（维度:(3,512,512)分别是红/绿/蓝,宽,高）

运行流程

Step 1: 将输入的文本提示通过Text Encoder进行编码, 作为Diffusion 的输入。
Step 2：将随机采样的噪音，也作为Diffusion的输出。
Step 3: 得到处理后的Image information 作为图像解码器的输入。

Diffusion 的过程是step-by-step 的，逐步生成清晰的图片。
下图通过图像解码器可视化每个步骤

扩散动作发生了多次，每一步都对输入潜在数组上操作以产生更相似于输入文本的新潜在数组，视觉信息来自于模型从所有图像训练语料。

下图可视化一系列的这些潜在数组:

在SD中，U-Net的迭代优化步数（Timesteps）大概是50或者100次，在这个过程中Latent Feature的质量不断的变好（纯噪声减少，图像语义信息增加，文本语义信息增加）

---

回顾Diffusion Model的内部工作原理
假设我们有张图片，我们生成了一些噪声，然后把噪声添加到图像上。

我们使用相同的方式来生成大量的训练样本。

使用这份数据集，我们可以训练噪声预测器

训练好的噪声预测器可以产生一个噪声图像，接来下的一系列降噪步骤，可以预测噪声。

采样噪声被预测了出来，所以如果我们从图像中减去它就能得到尽可能接近于模型训练样本的图像

逐步得到最终的生成图像

---

潜在空间

之前的Diffusion Model 不管是前向扩散过程还是反向扩散过程，都需要在像素级的图像上进行，当图像分辨率和Timesteps很大时，不管是训练还是前向推理，都非常的耗时。
而Stable Diffusion 将这些过程压缩在低维的Latent隐空间，这样一来大大降低了显存占用和计算复杂度

为了加速图像生成的过程，Stable Diffusion 是在图像的压缩空间上扩散操作。
压缩（和稍后的解压缩/绘制）是经由自编码器完成的。自编码器通过编码器压缩图像到潜在空间，然后只用压缩信息来解码重建。

在压缩空间上进行前向扩散过程。噪声数据是用在这些潜在空间上的，而非像素图片上的。所以，噪声预测器实际上是被训练在压缩表示上（潜在空间）来预测噪声的。
一旦训练完后，我们就可以通过反向处理（使用自编码器的解码器）来生成图像。

总结一下SD模型的前向推理过程：

网络结构

Stable Diffusion模型主要由VAE（变分自编码器，Variational Auto-Encoder），U-Net以及CLIP Text Encoder三个核心组件构成。

变分自编码器 (VAE)

VAE（变分自编码器，Variational Auto-Encoder）是基于Encoder-Decoder架构的生成模型。VAE的Encoder（编码器）结构能将输入图像压缩为低维Latent特征，并作为U-Net的输入。VAE的Decoder（解码器）结构能将低维Latent特征重建还原成像素级图像。

---

VAE的核心作用

1) 图像压缩和图像重建
如下图所示：

当我们输入一个尺寸为$H\times W\times C$的数据，VAE的Encoder模块会将其编码为一个大小为$h\times w\times c$ 的低维Latent特征，其中$f=H/h=W/w$为VAE的下采样率（Downsampling Factor）。反之，VAE的Decoder模块有一个相同的上采样率（Upsampling Factor）将低维Latent特征重建成像素级别的图像。

为什么VAE可以将图像压缩到一个非常小的Latent space（潜空间）后能再次对图像进行像素级重建呢？
因为虽然VAE对图像的压缩与重建过程是一个有损压缩与重建过程，但图像全图级特征关联并不是随机的，它们的分布具有很强的规律性：比如人脸的眼睛、鼻子、脸颊和嘴巴之间遵循特定的空间关系，又比如一只猫有四条腿，并且这是一个特定的生物结构特征。下面Rocky也使用VAE将图像重建成不同尺寸的生成图像，实验结论发现如果我们重建生成的图像尺寸在之上时，其实特征损失带来的影响非常小。

2) 切换不同微调训练版本的VAE模型，能够发现生成图片的细节与整体颜色也会随之改变

---

VAE的网络结构

VAE中Encoder和Decoder的结构如下：

• SD VAE Encoder部分包含了三个DownBlock模块、一个ResNetBlock模块以及一个MidBlock模块，将输入图像压缩到Latent空间，转换成为Gaussian Distribution。
• 而VAE Decoder部分正好相反，其输入Latent空间特征，并重建成为像素级图像作为输出。其包含了三个UpBlock模块、一个ResNetBlock模块以及一个MidBlock模块。
  

三个基础组件：

• GSC组件：GroupNorm+Swish+Conv
• Downsample组件：Padding+Conv
• Upsample组件：Interpolate+Conv
  两个核心组件：
• ResNetBlock模块
• SelfAttention模型
  
  

文本编码器 (CLIP Text Encoder)

作为文生图模型，Stable Diffusion中的文本编码模块直接决定了语义信息的优良程度，从而影响到最后图片生成的质量和与文本的一致性。
Stable Diffusion 中采用的文本编码器是多模态领域中的CLIP模型（Contrastive Language-Image Pre-training）中的文本编码器。

---

CLIP 模型介绍
首先，CLIP模型是一个基于对比学习的多模态模型，主要包含Text Encoder和Image Encoder两个模型。使用4亿个图片与标签文本对数据集进行训练，来学习图片与本文内容的对应关系。

• Text Encoder用来提取文本的特征，可以使用NLP中常用的text transformer模型作为Text Encoder
• Image Encoder主要用来提取图像的特征，可以使用CNN/Vision transformer模型（ResNet和ViT等）作为Image Encoder。

CLIP模型的训练过程如下：

• 从训练集中随机取出一张图片和标签文本，接着CLIP模型的任务主要是通过Text Encoder和Image Encoder分别将标签文本和图片提取embedding向量
• 然后用余弦相似度（cosine similarity）来比较两个embedding向量的相似性，以判断随机抽取的标签文本和图片是否匹配
• 并进行梯度反向传播，不断进行优化训练。

完成CLIP的训练后，输入配对的图片和标签文本，则Text Encoder和Image Encoder可以输出相似的embedding向量，计算余弦相似度就可以得到接近1的结果。同时对于不匹配的图片和标签文本，输出的embedding向量计算余弦相似度则会接近0。

在Stable Diffusion中主要使用了Text Encoder部分。CLIP Text Encoder模型将输入的文本Prompt进行编码，转换成Text Embeddings（文本的语义信息）U-Net网络的CrossAttention模块嵌入Stable Diffusion中作为Condition条件，对生成图像的内容进行一定程度上的控制与引导，目前SD模型使用的的是CLIP ViT-L/14中的Text Encoder模型。

将编码后的文本信息，也作为噪音生成器的输入。

由于我们将要在潜在空间中操作，所以输入的图像和已经预测的噪声都是在潜在空间的。

---

CLIP Text Encoder的结构图

一般来说，我们提取CLIP Text Encoder模型最后一层特征作为CrossAttention模块的输入，但是开源社区的不断实践为我们总结了如下经验：

• 当我们生成二次元内容时，可以选择提取CLIP Text Encoder模型倒数第二层特征；
• 当我们生成写实场景内容时，可以选择提取CLIP Text Encoder模型最后一层的特征。

噪音预测器 (Unet)

下图展示了不用文本的扩散Unet， 输入是在潜在空间中的噪音图片和时间步长。

通过在ResNet模块之间增加一个Attention层，添加对文本输入的支持。

ResNet模块并不能直接看到文本，但是Attention层将文本表达合并到了潜在空间。现在接下来的ResNet可以使用合并过来的文本信息到它的处理过程了。

---

Unet模型的作用
预测噪声残差，并结合Sampling method（调度算法：DDPM、DDIM、DPM++等）对输入的特征矩阵进行重构，逐步将其从随机高斯噪声转化成图片的Latent Feature。
在前向推理过程中，SD模型通过反复调用 U-Net，将预测出的噪声残差从原噪声矩阵中去除，得到逐步去噪后的图像Latent Feature，再通过VAE的Decoder结构将Latent Feature重建成像素级图像。

---

Unet 模型的结构
Stable Diffusion中的U-Net，在传统深度学习时代的Encoder-Decoder结构的基础上，增加了ResNetBlock（包含Time Embedding）模块，Spatial Transformer（SelfAttention + CrossAttention + FeedForward）模块以及CrossAttnDownBlock，CrossAttnUpBlock和CrossAttnMidBlock模块。

（1）ResNetBlock模块

• ResNetBlock模块：借鉴ResNet模型的“残差结构”，让网络能够构建的更深的同时，将Time Embedding信息嵌入模型。
  如下图所示，Stable Diffusion U-Net完整结构图中展示了完整的ResNetBlock模块，其输入包括Latent Feature和 Time Embedding。首先Latent Feature经过GSC（GroupNorm+SiLU激活函数+卷积）模块后和Time Embedding（经过SiLU激活函数+全连接层处理）做加和操作，之后再经过GSC模块和Skip Connection而来的输入Latent Feature做加和操作，进行两次特征融合后最终得到ResNetBlock模块的Latent Feature输出，增强SD模型的特征学习能力。
  

Time Embedding 正是输入到ResNetBlock模块中，为U-Net引入了时间信息（时间步长T，T的大小代表了噪声扰动的强度），模拟一个随时间变化不断增加不同强度噪声扰动的过程，让SD模型能够更好地理解时间相关性。
在SD模型调用U-Net重复迭代去噪的过程中，我们希望在迭代的早期，能够先生成整幅图片的轮廓与边缘特征，随着迭代的深入，再补充生成图片的高频和细节特征信息。由于在每个ResNetBlock模块中都有Time Embedding，就能告诉U-Net现在是整个迭代过程的哪一步，并及时控制U-Net够根据不同的输入特征和迭代阶段而预测不同的噪声残差。

• GSC模块：Stable Diffusion U-Net中的最小组件之一，由GroupNorm+SiLU+Conv三者组成。
  

（2）CrossAttention模块

• CrossAttention模块：将文本的语义信息与图像的语义信息进行Attention机制，增强输入文本Prompt对生成图片的控制。
  CrossAttention模块是我们 使用输入文本Prompt控制SD模型图片内容生成 的关键。
  CrossAttention接受两个输入：一个是ResNetBlock模块的输出的Latent Feature，另外一个是输入文本Prompt经过CLIP Text Encoder模型编码后的Context Embedding。
  两个输入首先经过Attention机制（将Context Embedding对应的语义信息与图片中对应的语义信息相耦合），输出新的Latent Feature，再将新输出的Latent Feature与输入的Context Embedding再做一次Attention机制，从而使得SD模型学习到了文本与图片之间的特征对应关系。
  

为什么Context Embedding用来生成K和V，Latent Feature用来生成Q呢？
原因也非常简单：因为在Stable Diffusion中，主要的目的是想把文本信息注入到图像信息中里，所以用图片token对文本信息做 Attention实现逐步的文本特征提取和耦合。

(3) BasicTransformer Block模块

• BasicTransformer Block模块：由LayerNorm+SelfAttention+CrossAttention+FeedForward组成，是在CrossAttention子模块的基础上，增加了SelfAttention子模块和Feedforward子模块共同组成的，并且每个子模块都是一个残差结构，这样除了能让文本的语义信息与图像的语义信息更好的融合之外，还能通过SelfAttention机制让模型更好的学习图像数据的特征。
  

• SelfAttention模块：SelfAttention模块的整体结构与CrossAttention模块相同，这是输入全部都是图像信息，不再输入文本信息。
  该模块主要是为了让SD模型更好的学习图像数据的整体特征。
  再者，SelfAttention可以将输入图像的不同部分（像素或图像Patch）进行交互，从而实现特征的整合和全局上下文的引入，能够让模型建立捕捉图像全局关系的能力，有助于模型理解不同位置的像素之间的依赖关系，以更好地理解图像的语义。
  在此基础上，SelfAttention还能减少平移不变性问题，SelfAttention模块可以在不考虑位置的情况下捕捉特征之间的关系，因此具有一定的平移不变性。

• FeedForward模块：Attention机制中的经典模块，由GeGlU+Dropout+Linear组成。
  

（4）Spatial Transformer模块

• Spatial Transformer模块：由GroupNorm+Conv+BasicTransformer Block+Conv构成。
  Spatial Transformer模块不改变输入输出的尺寸，只在图片对应的位置上融合了语义信息
  
  Spatial Transformer模块是SD U-Net中的核心基础结构，Encoder中的CrossAttnDownBlock模块，Decoder中的CrossAttnUpBlock模块以及CrossAttnMidBlock模块都包含了大量的Spatial Transformer子模块。

在生成式模型中，GroupNorm的效果一般会比BatchNorm更好，生成式模型通常比较复杂，因此需要更稳定和适应性强的归一化方法。 而GroupNorm主要有以下一些优势，让其能够成为生成式模型的标配：

1. 对训练中不同Batch-Size的适应性：在生成式模型中，通常需要使用不同的Batch-Size进行训练和微调。这会导致 BatchNorm在训练期间的不稳定性，而GroupNorm不受Batch-Size的影响，因此更适合生成式模型。
2. 能适应通道数变化：GroupNorm 是一种基于通道分组的归一化方法，更适应通道数的变化，而不需要大量调整。
3. 更稳定的训练：生成式模型的训练通常更具挑战性，存在训练不稳定性的问题。GroupNorm可以减轻训练过程中的梯度问题，有助于更稳定的收敛。
4. 能适应不同数据分布：生成式模型通常需要处理多模态数据分布，GroupNorm 能够更好地适应不同的数据分布，因为它不像 Batch Normalization那样依赖于整个批量的统计信息。

（5) CrossAttnDownBlock/CrossAttnUpBlock/CrossAttnMidBlock模块

• CrossAttnDownBlock_X模块：是Stable Diffusion U-Net中Encoder部分的主要模块，由X个（ResNetBlock模块+Spatial Transformer模块）+DownSample模块组成。
  

• CrossAttnUpBlock_X模块：是Stable Diffusion U-Net中Decode部分的主要模块，由X个（ResNetBlock模块+Spatial Transformer模块）+UpSample模块组成。
  

• CrossAttnMidBlock模块：是Stable Diffusion U-Net中Encoder和Decoder连接的部分，由ResNetBlock+Spatial Transformer+ResNetBlock组成。
  

• DownSample模块：Stable Diffusion U-Net中的下采样组件，使用了Conv（kernel_size=(3, 3), stride=(2, 2), padding=(1, 1)）进行采下采样。
  

• UpSample模块：Stable Diffusion U-Net中的上采样组件，由插值算法（nearest）+Conv组成。
  插值算法将输入的Latent Feature尺寸扩大一倍，同时通过一个卷积（kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)）改变Latent Feature的通道数，以便于输入后续的模块中。
  

• UpBlock_X模块：由X个ResNetBlock模块和一个UpSample模块组成。
  

训练过程和损失函数

VAE训练

在Stable Diffusion中，需要对VAE模型进行微调训练，主要采用了L1回归损失和感知损失（perceptual loss，Learned Perceptual Image Patch Similarity，LPIPS）作为损失函数，同时使用了基于patch的对抗训练策略。
为了防止在Latent空间的任意缩放导致的标准差过大，在训练VAE模型的过程中引入了正则化损失

---

L1回归损失
L1回归损失用在回归问题中衡量预测值与真实值之间的差异。
$$L1(y,\hat{y})=\sum _{i=1}^n\left|y_i-{\hat{y}}_i\right|$$

其中， $y_i$ 是输入数据的真实值， ${\hat{y}}_i$ 是模型生成数据的预测值， $n$ 是数据总数。

---

感知损失
感知损失的核心思想是比较原始图像和生成图像在传统深度学习模型（VGG、ResNet、ViT等）不同层中特征图之间的相似度，而不直接进行像素级别的对比。传统深度学习模型能够提取图像的高维语义信息的特征，如果两个图像在高维语义信息的特征上接近，那么它们在像素级别的语意上也应该是相似的。
感知损失的公式如下所示:
$$L_{\text{perceptual }}=\sum _l{\lambda }_l\cdot {\Vert {\varphi }_l\left(I_{\text{pred }}\right)-{\varphi }_l\left(I_{\text{target }}\right)\Vert }_2^2$$

其中:${\varphi }_l$ 表示在预训练模型 (比如VGG/ResNet网络) 的第 $l$ 层的激活特征。$I_{pred}$ 是模型生成的图像。$I_{\text{target }}$ 是真实图像。${\lambda }_l$ 是第 $l$ 层的权重，可以根据实际情况设置合适值。

---

正则化损失

• KL（Kullback-Leibler）正则化
  让Latnet特征不要偏离正态分布太远，同时设置了较小的权重（～10e-6）来保证VAE的重建效果。
• VQ（Vector Quantization）正则化
  过在decoder模块中引入一个VQ-layer，将VAE转换成VQ-GAN，同样为了保证VAE的重建效果，设置较高的codebook采样维度（8192）。

虽然VAE模型使用了KL正则化，但是由于KL正则化的权重系数非常小，实际生成的Latent特征的标准差依旧存在比较大的情况，所以Stable Diffusion论文中提出了一种rescaling方法强化正则效果。
首先我们计算第一个batch数据中Latent特征的标准差 $\sigma$ ，然后采用 $1/\sigma$ 的系数来rescale后续所有的Latent特征使其标准差接近于1。同时在Decoder模块进行重建时，只需要将生成的Latent 特征除以 $1/\sigma$ ，再进行像素级重建即可。
在SD中，U-Net模型使用的是经过rescaling后的Latent 特征，并且将rescaling系数设置为 0.18215 。

---

基于patch的对抗训练策略
使用PatchGAN的判别器来对VAE模型进行对抗训练，通过优化判别器损失，来提升生成图像的局部真实性（纹理和细节）与清晰度。
PatchGAN是GAN系列模型的一个变体，其判别器架构不再评估整个生成图像是否真实，而是评估生成图像中的patch部分是否真实。具体来说，PatchGAN的判别器接收一张图像，并输出一个矩阵，矩阵中的每个元素代表图像中对应区域的真实性。

---

总损失函数
Diffusion中VAE训练的完整损失函数：
$$\begin{array}{c}{\mathcal{L}}_{\text{Autoencoder }}=\underset{\mathcal{E},\mathcal{D}}{\min }\underset{\psi }{\max }\\ \left({\mathcal{L}}_{rec}(x,\mathcal{D}(\mathcal{E}(x)))-{\mathcal{L}}_{adv}(\mathcal{D}(\mathcal{E}(x)))+\log {\mathcal{D}}_{\psi }(x)+{\mathcal{L}}_{reg}(x;\mathcal{E},\mathcal{D})\right)\end{array}$$

其中 $\mathcal{E}(x)$ 表示VAE重建的图像， ${\mathcal{L}}_{rec}$ 表示L1回归损失和感知损失， ${\mathcal{L}}_{adv}+\log {\mathcal{D}}_{\psi }$ 表示 PachGAN的判别器损失， ${\mathcal{L}}_{reg}$ 表示KL正则损失。

UNet训练

在我们进行Stable Diffusion模型训练时，VAE部分和CLIP部分都是冻结的，所以说官方在训练SD系列模型的时候，训练过程一般主要训练U-Net部分。
Stable Diffusion中U-Net主要是进行噪声残差，在SD系列模型训练时和DDPM一样采用预测噪声残差的方法来训练U-Net，其损失函数如下所示：
$$L_{SD}={\mathbb{E}}_{{\mathbf{x}}_0,ϵ\sim \mathcal{N}(0,\mathbf{I}),t}\left[{\Vert ϵ-{ϵ}_{\theta }\left(\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ,t,\mathbf{c}\right)\Vert }^2\right]$$
这里的$c$为Text Embeddings。

CLIP 训练

在SD模型的训练中，一般来说CLIP的整体性能是足够支撑我们的下游细分任务的，所以CLIP Text Encoder模型参数是冻结的，我们不需要对其重新训练。

由于CLIP训练时所采用的最大Token数是77，所以在SD模型进行前向推理时，当输入Prompt的Token数量超过77时，将通过Clip操作拉回77x768，而如果Token数不足77则会使用padding操作得到77x768。如果说全卷积网络的设计让图像输入尺寸不再受限，那么CLIP的这个设置就让输入的文本长度不再受限（可以是空文本）。无论是非常长的文本，还是空文本，最后都将得到一样维度的特征矩阵。

参考

---

论文
【1】 DDPM的灵感来源 Deep Unsupervised Learning using Nonequilibrium Thermodynamics
【2】DDPM 开山之作 ： Denoising Diffusion Probabilistic Models (DDPM)
【3】DDPM的改进，提出余弦调度策略 Improved Denoising Diffusion Probabilistic Models
【4】DDPM采用的最基础的Unet架构U-Net: Convolutional Networks for Biomedical Image Segmentation

---

博文
【b.1】通过可视化的动画，逐步讲解 Step by Step Visual Introduction to Diffusion Models
【b.2】主页里有对应的ppt和yotube链接 cvpr2022-tutorial-diffusion-models
【b.3】偏向于数学的角度介绍 How diffusion models work: the math from scratch
【b.4】Arxiv24最新的一篇关于DDPM非常详细的讲解 Tutorial on Diffusion Models for Imaging and Vision
【b.5】介绍的非常全面，包括具体的数学推导What are Diffusion Models?
【b.6】Stable Diffusion 图解 The Illustrated Stable Diffusion
【b.7】强烈推荐知乎上的一个讲解 深入浅出完整解析Stable Diffusion（SD）核心基础知识

---

视频
【1】李宏毅老师的系列讲解
【生成式AI】淺談圖像生成模型 Diffusion Model 原理
【生成式AI】Stable Diffusion、DALL-E、Imagen 背後共同的套路
【生成式AI】Diffusion Model 原理剖析 (1/4) (optional)
【生成式AI】Diffusion Model 原理剖析 (2/4) (optional)
【生成式AI】Diffusion Model 原理剖析 (3/4) (optional)
【生成式AI】Diffusion Model 原理剖析 (4/4) (optional)

【2】Yotube上的视频，不仅介绍了DDPM基础还有应用
Tutorial on Denoising Diffusion-based Generative Modeling: Foundations and Applications