Mean-Field Variational Inference
PulseAugur coverage of Mean-Field Variational Inference — every cluster mentioning Mean-Field Variational Inference across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究应对AI中的变分推断挑战
两篇新研究论文解决了变分推断中的挑战，变分推断是一种用于近似复杂概率分布的方法。第一篇论文《MFVI的模式崩溃》（Mode Collapse of Mean-Field Variational Inference）为MFVI中的模式崩溃提供了理论解释，并引入了旋转变分推断（Rotational Variational Inference, RoVI）来改善模式覆盖。第二篇论文《非高斯空间场的稀疏自回归变分推断》（Scalable Sp…
-
新的经验贝叶斯方法增强了广义线性模型
研究人员开发了一种新颖的经验贝叶斯方法来拟合贝叶斯广义线性模型，引入了一种均场变分推断方法，该方法在算法内估计先验，使其无需调优。该方法优化后验均值和先验参数，支持 L-BFGS 和随机梯度下降等可扩展优化算法。该框架统一了指数族分布，并在稀疏逻辑回归应用中展示了优于现有方法的预测性能。
-
新方法推进神经集函数学习，降低计算开销
研究人员开发了一种新方法来改进神经集函数的学习，这对于药物发现和产品推荐等应用至关重要。该方法将证据下界重新解释为连续松弛，创建了一个替代目标，用以替代计算密集型的蒙特卡洛采样来进行梯度估计。这种学习到的替代目标提供了稳定高效的梯度，降低了开销并加速了推理，实验证明其优于现有方法。
-
新方法使用迭代高斯化改进密度采样
研究人员引入了一种新颖的迭代高斯化方法，用于从非归一化密度中采样。该技术在旋转坐标系内重复应用平均场变分推断 (MFVI) 来逼近标准高斯分布。通过基于主成分分析 (PCA) 的方法选择信息性旋转，可以提高该方法的效率，从而在贝叶斯后验采样任务上显著优于标准的 MFVI。