linear diffusion models

研究论文量化了线性扩散模型中对称性学习的失败

一篇新的研究论文探讨了线性扩散模型如何未能学习到数据分布的对称性，这是现实世界数据（如狗的图像）中的常见特征。该研究确定了导致这种对称性破坏的三个主要原因：非对称的初始权重矩阵、有噪声的学习目标以及有限样本噪声。研究人员发现，即使有大量数据可用，学习目标中的噪声也是对称性破坏最持久的原因。该论文利用随机矩阵理论来量化对称性误差，并提出较小的对称性对这些模型来说更难学习。