研究人员在深度生成模型(DGMs)中发现了内在的几何挑战,这些挑战阻碍了它们准确表示复杂目标分布的能力。这些困难源于底层的传输问题,而非特定的架构或训练方法。该研究为梯度和雅可比矩阵建立了定量的下界,表明重尾或多模态目标分布需要在传输映射中产生更大的梯度,从而影响表达能力和数值稳定性。研究结果表明,通过使用双射重参数化进行密度近似,可以缓解这些障碍,数值实验也支持了这一点。 AI
影响 识别出深度生成模型的根本局限性,可能指导未来研究朝着更稳定、更具表达力的架构发展。
排序理由 在arXiv上发表的学术论文,详细介绍了关于深度生成模型的理论发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →