变分推断：从求分布的推断问题，变成缩小距离的优化问题

• • 频率学派与贝叶斯学派
  • 变分推断
  • • 完整推导

 

---

频率学派与贝叶斯学派

学过概率论，应该了解过，概率分为 2 个学派：

• 频率学派：数据是客观的（看到啥就是啥，隐变量z->观察变量/输入变量x），直接求统计指标即可（似然函数），代表之作像 CNN、RNN、transformer 这类判别模型（学习类别边界）

• 贝叶斯学派：数据来自隐变量z（每个孩子都有一个妈，$p(z|x)=\frac{p(x|z)p(\mathbf{z})}{p(\mathbf{x})}$），数据都有主观的先验的分布（知道先验，贝叶斯公式推导后验），代表之作像 VAE、GAN、扩散模型 这类概率生成模型（学习概率分布）

把贝叶斯学派的公式展开：

$p(\mathbf{z}|\mathbf{x})=\frac{p(\mathbf{x}|\mathbf{z})p(\mathbf{z})}{p(\mathbf{x})}=\frac{p(\mathbf{x}|\mathbf{z})p(\mathbf{z})}{\int p(\mathbf{z})p(\mathbf{x}|\mathbf{z})d\mathbf{z}}$

按照贝叶斯展开后，分母 $\int p(\mathbf{z})p(\mathbf{x}|\mathbf{z})d\mathbf{z}$ 是一个不可积的多重积分，会让后验分布无解析解。

可以用 马尔科夫链-蒙特卡洛方法 来近似，但 马尔科夫链-蒙特卡洛方法 是基于 迭代 策略（一步步来的那种）。

• 导致ta计算慢，不适合深度学习这种大规模数据的计算

变分推断

变分推断另一种解法，适合深度学习这种大规模数据的计算、适合并行计算。

按照贝叶斯学派的思想，估计下图的黄色分布，那设置一个先验（有点像高斯分布），用高斯分布去套这个黄色分布：

目的是，让高斯分布尽可能的重合黄色分布。

• 用变分分布去逼近推断后的后验分布 $p(z|x)$
• 最小化俩个分布的 KL 散度

${\min }_{\theta }KL(q(z;\theta )||p(z|x;\varphi ))$

• $q(z;\theta )$ 代表一个叫做q的概率分布，$p(z|x;\varphi )$ 代表一个叫做p的概率分布
• $x$ 是一个给定的数据
• 我们要找到一个参数 $\theta$，使得 $q(z;\theta )$ 和 $p(z|x;\varphi )$ 之间的 KL 散度最小
• KL 散度用于，衡量俩个分布之间的距离

公式的目标是找到一个概率分布 $q(z;\theta )$，使得它与给定数据 $x$ 的真实概率分布 $p(z|x;\varphi )$ 之间的差距最小。

通过调整参数 $\theta$ 的值，我们可以调整 $q$ 的形状，使得它与真实概率分布更加接近。

比如上图，调整参数 $\theta$ 得到俩个高斯分布（红色、绿色），哪个高斯分布和黄色分布的 KL 散度最小，就选哪个。

变分推断步骤：

• 输入：数据x，模型 $p(z,x)$
• 需要推断的是后验概率 $p(z|x)$，但不能直接求
• 构造后验概率 $p(z|x)$ 的近似分布 $q(z;v)$
• 不断缩小 q 和 p 之间的距离，直至收敛

展开上面公式的 KL 散度（变成期望和log运算表示）：

$\begin{array}{c}KL(q(z;\theta )\Vert p(z|x))]\\ =E_{q(z;\theta )}[\log \frac{q(z;\theta )}{p(z|x)}]\end{array}$

完整推导

$\begin{array}{rl}& \begin{array}{r}KL(q(z;\theta )\Vert p(z|x))]\end{array}\\ & =\begin{array}{r}{E}_q[\log \frac{q(z)}{p(z|x)}]\end{array}\\ & =\begin{array}{r}{E}_q[\log q(z)-\log p(z|x)]\end{array}\\ & =E_q[\log q(z)-\log \frac{p(x|z)p(z)}{p(x)}]\\ & =E_q[\log q(x)]-E_q[\log p(x|z)]-E_q[\log p(z)]+E_q[\log p(x)]\\ & =\begin{array}{r}-E_q[\log p(x|z)]+KL(q(z)||p(z))+E_q[\log p(x)]\end{array}\end{array}$

第二行：将 KL 散度的定义展开为期望值的形式，$E_q$ 表示在 $q(z;\theta )$ 的概率分布下对其进行期望值的计算

第三行：除法变成减法形式

第四行：$p(\mathbf{z}|\mathbf{x})$ 替换后验公式 $\frac{p(x|z)p(z)}{p(x)}$

第五行：log运算展开后验公式，再把中括号外面的 E 放进来了

第六行：合并 $\log q(x)、\log p(z)$ 变成 KL 散度形式，$\log p(x)$ 是一个常数

常数前面的 $-E_q[\log p(x|z)]+KL(q(z)||p(z))$ 是证据下界

• 数据的似然度 $-E_q[\log p(x|z)]$
• 潜在变量的先验分布 $KL(q(z)||p(z))$

最小化 -证据下界，等于最大化证据下界，因为前面有一个负号：

$\begin{array}{ll}& \arg \min KL(q(z;\theta )||p(z|x))]\\ =& \arg \max -E_q[\log p(x|z)]+KL(q(z)||p(z))\\ =& \arg \max E_q[\log p(x|z)]-KL(q(z)||p(z))\end{array}$

最终推断结果，告诉我们，可以通过最大化证据下界来近似地学习模型的参数。

通过优化证据下界，我们可以找到一个概率分布 $q(z;\theta )$，使得ta能最好地解释观测数据，并且与真实潜在变量的分布尽量接近。