自监督的开创性工作
从简单分布到复杂分布的映射,本质上是将重建限制到某一流形,在流形上通过观测图像的数据保真项作为监督。
称之为先验也是很准确,流形就是先验。
这个扰动也很关键,本质上一个平滑正则项。直观理解是各种扰动后都能逼近观测图像,那就是它们的平均值。
At each iteration we perturb the input z z z with an additive normal noise with zero mean and standard deviation σ p σ_p σp.