实体
Bayesian Model Selection
Bayesian Model Selection
PulseAugur coverage of Bayesian Model Selection — every cluster mentioning Bayesian Model Selection across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的贝叶斯风洞方法使 Transformer 能够进行模型选择
研究人员开发了一种名为贝叶斯风洞 (Bayesian Wind Tunnels) 的新方法，使 Transformer 能够执行贝叶斯模型选择，从数据中识别正确的假设类别。使用无不动点对合，一个 2.8M 参数的 Transformer 在与真实后验概率的一致性方面接近最优。该研究还确定了一个关键条件，即在判别统计中进行算术运算对于成功的模型选择是必要的，即使在扩展到 316M 参数时，这一边界仍然存在。对前沿 LLM 的探测揭示了定…
-
新AI方法以改进的采样解决复杂逆问题
研究人员正在开发新方法来解决机器学习中的复杂逆问题，特别是在无法获得梯度信息的情况下。新技术旨在通过降低方差和提供理论保证来改进从高维、非对数凹分布中采样。这些进展已被应用于图像重建和贝叶斯推断等领域，与现有方法相比，在提高准确性和效率方面显示出前景。
-
通过ELBO进行的贝叶斯模型选择可能导致过拟合，提醒从业者注意
一篇新论文探讨了证据下界（ELBO）与贝叶斯模型选择中的奥卡姆剃刀之间的关系。研究表明，基于ELBO的超参数学习可能导致过拟合，这与偏好更简单模型的奥卡姆剃刀原则相悖。令人惊讶的是，使用证据本身的贝叶斯模型选择有时会偏好过拟合模型，而ELBO则不会。研究结果表明，从业者应警惕降秩假设（在大模型中为便于处理而必需）如何影响模型选择。