Stein Variational Gradient Descent
PulseAugur coverage of Stein Variational Gradient Descent — every cluster mentioning Stein Variational Gradient Descent across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的Riesz核SVGD方法解决了无限自相互作用问题 · 跟踪2个来源
研究人员开发了一种新的Stein变分梯度下降（SVGD）方法，该方法解决了使用奇异Riesz核时的无限自相互作用问题。这种改进的方法，称为周期性Riesz SVGD，消除了自相互作用，并为长期粒子采样提供了理论框架。该研究证明，在特定条件下，经验测度律收敛到目标分布，将先前用于平滑核的方法扩展到奇异相互作用。
-
新的收敛率改进了 Stein 变分梯度下降法
研究人员为 Stein 变分梯度下降法（SVGD）算法开发了新的有限粒子收敛率。这些进展提供了对 SVGD 在核化 Stein 差异（KSD）和 Wasserstein-2 度量下的性能的改进的理论理解。新的收敛率比之前的结果有了显著改进，特别是在粒子数量多和高维度的场景下。
-
新研究通过理论和算法改进推动流匹配模型
研究人员为流匹配模型（一种生成模型）开发了新的理论基础和实用算法。其中一篇论文为神经网络参数化的条件速度场建立了收敛保证并提供了泛化界限。另一篇论文介绍了 Flow-DPPO，一种改进的强化学习方法，它用散度近邻约束取代了比例裁剪，以实现更稳定高效的训练。第三种方法 RLDT 使用具有密度传输的强化学习来微调流匹配策略以用于连续控制任务，其性能优于现有基线。
-
新研究推动生成模型在效率和评估方面取得进展
几篇最新的研究论文探讨了生成模型的进展，重点是提高其效率、可评估性和对齐性。其中一篇论文提出了一种使用基于分数的生成模型进行加权采样的新框架，实现了显著的加速。另一个理论框架解决了生成模型的统计可评估性问题，区分了可以从有限样本中可靠估计的指标和不能的指标。其他研究介绍了参数高效的生成建模方法、将模型校准到分布约束以及使用基于样本的变分推理来对齐少样本生成模型的方法。
-
新论文量化了 SVGD 均值场收敛率
研究人员为 Stein 变分梯度下降 (SVGD) 的均值场极限建立了定量局部收敛率。这种确定性粒子方法通过利用得分函数从概率测度中采样。新的发现提供了 L2 范数中显式的多项式收敛率，具体取决于维度和核/目标正则性，并通过数值实验得到支持。