English(EN) Memorisation, convergence and generalisation in generative models

生成模型从记忆转向泛化

作者 PulseAugur 编辑部 · [2 个来源] · 2026-05-20 17:00

研究人员已分析表征了线性生成模型中从记忆到泛化的转变。他们发现，当训练样本数量与输入维度呈线性关系时，收敛到数据分布会连续出现。然而，这种收敛与主潜在因子的恢复不同，后者发生急剧转变。 AI

影响为生成模型的泛化能力提供了理论见解，可能指导未来的模型开发。

排序理由学术论文，详细阐述了关于生成模型的理论发现。

AI 生成摘要 · Google Gemini · 来自 2 个来源。我们如何撰写摘要 →

报道来源 [2]

arXiv stat.ML TIER_1 English(EN) · Antoine Maillard, Sebastian Goldt · 2026-05-21 04:00

生成模型中的记忆、收敛与泛化

arXiv:2605.21402v1 Announce Type: new Abstract: Generative neural networks learn how to produce highly realistic images from a large, but finite number of examples - or do they simply memorise their training set? To settle this question, Kadkhodaie, Guth, Simoncelli and Mallat (I…
arXiv stat.ML TIER_1 English(EN) · Sebastian Goldt · 2026-05-20 17:00

生成模型中的记忆、收敛与泛化

Generative neural networks learn how to produce highly realistic images from a large, but finite number of examples - or do they simply memorise their training set? To settle this question, Kadkhodaie, Guth, Simoncelli and Mallat (ICLR '24) trained diffusion models independently …