Chris Oates

新的“梯度差异”指标有助于变分目标优化

研究人员引入了一种名为“梯度差异”的新指标，特别是核梯度差异（KGD），用于衡量熵正则化变分目标中的次优性。该指标允许开发和比较新颖的采样算法，即使在无法获得显式非归一化密度的情况下也是如此。该论文还提出了一些新算法，包括 Stein 变分梯度下降的推广，并应用于均值场神经网络和预测后验等领域。KGD 的理想特性（如连续性和收敛控制）的理论条件也已建立。