一、开篇：生成模型的"概率革命"2013 年 12 月 20 日，arXiv 上出现了一篇看似不起眼的论文：Auto-Encoding Variational BayesDiederik P. Kingma, Max WellingUniversity of Amsterdam20 页的论文，引入了一个看起来"普通"的想法：让自动编码器的潜变量服从概率分布。但这个简单的修改打开了一扇大门——深度生成模型的概率时代正式开启。在 VAE 出现之前，生成模型的世界是这样的：玻尔兹曼机（1985）：理论优雅但训练困难DBN 深度信念网络（2006）：Hinton 的杰作，但推理慢去噪自编码器（2008）：能做生成但不够灵活NADE / MADE：自回归，速度慢而 VAE 一举解决了三个问题：训练稳定：用反向传播 + SGD 就行采样高效：一次前向传播即可生成数学优雅：基于严格的变分推断更重要的是，
变分自动编码器（VAE）百科全书从压缩到生成
发布时间：2026/5/20 22:34:08
一、开篇：生成模型的"概率革命"2013 年 12 月 20 日，arXiv 上出现了一篇看似不起眼的论文：Auto-Encoding Variational BayesDiederik P. Kingma, Max WellingUniversity of Amsterdam20 页的论文，引入了一个看起来"普通"的想法：让自动编码器的潜变量服从概率分布。但这个简单的修改打开了一扇大门——深度生成模型的概率时代正式开启。在 VAE 出现之前，生成模型的世界是这样的：玻尔兹曼机（1985）：理论优雅但训练困难DBN 深度信念网络（2006）：Hinton 的杰作，但推理慢去噪自编码器（2008）：能做生成但不够灵活NADE / MADE：自回归，速度慢而 VAE 一举解决了三个问题：训练稳定：用反向传播 + SGD 就行采样高效：一次前向传播即可生成数学优雅：基于严格的变分推断更重要的是，
