新框架通过费舍尔几何分析扩散模型退化

研究人员开发了一个新框架，通过量化最小均方误差（MMSE）的变化率来分析扩散模型中的潜在空间退化。该框架将MMSE速率分解为费舍尔信息（FI）和费舍尔信息率（FIR）的贡献，揭示FIR受到编码器和数据几何形状之间相互作用的影响。分析确定了导致扩散退化的四种惩罚：维度压缩、切向畸变以及编码器和数据的固有曲率。推导了保持FIR的理论条件以确保扩散的稳定性，并在各种自动编码器架构上的实验验证了这些界限。 AI

影响 提供了一个理论框架，用于理解和潜在地改善扩散模型在潜在空间中的稳定性和性能。

排序理由 该集群包含一篇在arXiv上发表的研究论文，详细介绍了一个用于分析扩散模型的新理论框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Fisher Information
• Fisher Information Rate
• Gotit.pub
• Hugging Face
• IArxiv
• Jing-Guo Ma
• ScienceCast

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →