Normalizing Flow
简单介绍 #
首先,Normalizing Flow是一种生成模型(Generative Model),它的提出是为了解决现有的生成的模型的一些问题,如GAN训练不稳定,VAE边缘概率估计intractable的问题。
Normalizing Flow是一种特殊的inveritable网络,每个模块都是可逆的,并且有tractable determinant of the Jacobian,且求逆也是tractable的。
优点:
- 相比VAE,不必引入噪声, more powerful local variance models.
- 相比GAN,训练更稳定,更易收敛。
缺点
- 每个模块都必须可逆,限制了表达能力。
- 可逆要求latent space的维度很高。