Juyan Zhang及其同事在arXiv上发表的一篇新论文探讨了去噪分数匹配（DSM）中固有的异方差性。DSM是一种广泛用于生成模型的技巧。研究人员证明，DSM的目标函数会导致模型参数方差不可预测，具体取决于噪声水平和数据几何。他们提出了一种理想的加权函数来均衡这种方差，从而创建DSM的同方差泛化，并推导了一种实用的近似方法用于训练，以减少梯度方差。 AI
影响 这项研究为改进扩散模型和其他生成式AI系统的稳定性和性能提供了理论基础。
排序理由 该集群包含一篇详细介绍机器学习理论发现和提出方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
