Juyan Zhang

新研究揭示去噪分数匹配中固有的不稳定性

Juyan Zhang及其同事在arXiv上发表的一篇新论文探讨了去噪分数匹配（DSM）中固有的异方差性。DSM是一种广泛用于生成模型的技巧。研究人员证明，DSM的目标函数会导致模型参数方差不可预测，具体取决于噪声水平和数据几何。他们提出了一种理想的加权函数来均衡这种方差，从而创建DSM的同方差泛化，并推导了一种实用的近似方法用于训练，以减少梯度方差。