evidence lower bound
PulseAugur coverage of evidence lower bound — every cluster mentioning evidence lower bound across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
t分布在贝叶斯神经网络中优于高斯分布
研究人员探讨了不同似然分布对贝叶斯神经网络（BNNs）性能的影响。虽然高斯分布因计算方便常用于模拟BNNs中的不确定性，但本研究调查了替代分布是否能产生更好的结果。研究结果表明，无论数据或网络架构如何，使用t分布作为似然函数都能持续提高预测性能，优于高斯假设。此外，t分布在保持易于实现的同时，还有可能缩短训练时间。
-
新方法推进神经集函数学习，降低计算开销
研究人员开发了一种新方法来改进神经集函数的学习，这对于药物发现和产品推荐等应用至关重要。该方法将证据下界重新解释为连续松弛，创建了一个替代目标，用以替代计算密集型的蒙特卡洛采样来进行梯度估计。这种学习到的替代目标提供了稳定高效的梯度，降低了开销并加速了推理，实验证明其优于现有方法。
-
新框架通过贝叶斯变量选择增强因子分析
研究人员开发了一个新的框架，用于在使用变分贝叶斯变量选择的部分探索性因子分析（PEFA）中评估和选择因子数量。这种称为PCFA VA的方法采用spike and slab先验来识别未指定的载荷，然后将收敛的解转换为协方差模型。该框架提供了拟合评估的诊断方法，包括RMSEA等绝对拟合指数和AIC、BIC等相对标准，并提出了一个新的无标度增益规则来确定正确的因子数量。模拟表明，该方法能够准确地恢复真实维度，并且优于验证性模型，这一点通过应…
-
新的SCROLL方法通过Bethe自由能优化贝叶斯神经网络
研究人员开发了一种训练贝叶斯神经网络的新方法，称为SCROLL（Shared-Cavity fRee-rOuting Last-Layer）。该方法优化Bethe自由能而非典型的证据下界（ELBO），旨在实现网络组件之间的局部一致性。SCROLL专为单次训练而设计，可以处理各种似然函数，在多个基准数据集上显示出预测准确性和校准方面的性能提升。
-
新方法ELBO-T2IAlign校准扩散模型中的文本-图像对齐
研究人员推出了一种名为ELBO-T2IAlign的新颖方法，旨在提高扩散模型中的像素级文本-图像对齐。该技术解决了扩散模型中出现的对齐不准确问题，尤其是在处理小型、被遮挡或罕见物体类别时，这通常是由于训练数据中的偏差造成的。ELBO-T2IAlign是一种无需训练且通用的方法，它利用证据下界（ELBO）来校准这种对齐，而无需额外的标注或模型重新训练。该方法在各种下游任务中都显示出了有效性，包括零样本指代图像分割、文本引导图像编辑和组合图像生成。
-
新工具分析贝叶斯推断中的局部质量行为
本文介绍了新的数学工具，即质量指数（Mass Index）和正则化扩展KL（RE-KL），用于分析贝叶斯推断中的局部质量行为。这些工具超越了KL散度（KL divergence）和ELBO等传统的全局目标，以表征贝叶斯更新如何影响局部质量。该研究为理解局部质量行为提供了理论框架，并包含实验说明。
-
新研究增强了用于鲁棒强化学习和安全规划的扩散模型
研究人员正在开发新方法来提高扩散模型在强化学习和规划任务中的鲁棒性和安全性。一种方法是鲁棒正则化策略迭代（RRPI），它通过针对最坏情况动力学进行优化来解决转移不确定性，并在 D4RL 基准测试中表现出强劲的性能。另一组论文介绍了 Kolmogorov Regression 和 DiRecT 等技术，通过提高轨迹规律性来增强扩散策略，从而实现确定性故障检测，并在推理过程中强制执行安全约束，而不会过度约束采样过程。这些进展旨在使扩散模型…
-
通过ELBO进行的贝叶斯模型选择可能导致过拟合，提醒从业者注意
一篇新论文探讨了证据下界（ELBO）与贝叶斯模型选择中的奥卡姆剃刀之间的关系。研究表明，基于ELBO的超参数学习可能导致过拟合，这与偏好更简单模型的奥卡姆剃刀原则相悖。令人惊讶的是，使用证据本身的贝叶斯模型选择有时会偏好过拟合模型，而ELBO则不会。研究结果表明，从业者应警惕降秩假设（在大模型中为便于处理而必需）如何影响模型选择。
-
V-GRPO方法通过更快、更稳定的强化学习增强去噪生成模型
研究人员推出了一种新颖的在线强化学习方法V-GRPO，旨在使去噪生成模型与期望结果对齐。该方法通过有效利用证据下界（ELBO）代理，克服了先前的局限性，其性能优于优化采样轨迹的方法。V-GRPO将ELBO代理与GRPO算法相结合，并采用技术来减少方差和控制梯度步长，从而提高了文本到图像合成的稳定性和性能。