Bayesian statistics
PulseAugur coverage of Bayesian statistics — every cluster mentioning Bayesian statistics across labs, papers, and developer communities, ranked by signal.
-
新的 Thompson Sampling 变体解释了在 bandit 问题中的方差膨胀
研究人员推出了一种名为“$\alpha$-TS”的广义线性 bandit 问题 Thompson Sampling 算法变体。这种新方法将方差膨胀的概念形式化，这对于在现有分析中实现近乎最优的遗憾保证是必要的。该研究概述了在无需可处理后验近似的情况下分析 $\alpha$-TS 的一般条件，这与先前的工作不同。研究结果为特定奖励分布建立了 $O(d^{3/2}\sqrt{T}\log T)$ 的遗憾界限，并提供了一个解释上限中 $d^…
-
新论文探讨机器学习的理论基础
两篇新论文探讨了机器学习的理论基础，侧重于不同的基本原理。第一篇论文《统计学习理论与奥卡姆剃刀：正则化》通过权衡拟合度和简洁性，借鉴统计学习理论，为正则化提供了依据。第二篇论文《机器学习的信息论基础》提出了一个以贝叶斯统计和香农信息论为根基的统一理论框架，为现有的机器学习实践提供严谨性。
-
作者提出“受虐性先验”以面对生存真相
作者在贝叶斯统计学中引入了“受虐性先验”的概念，认为在缺乏证据的情况下，最痛苦的信念往往是最准确的。这种哲学延伸到死亡和失落等生存现实，敦促人们面对严酷的真相，而不是舒适的幻想。文章提倡积极应对这些挑战，强调人类的创造力有潜力理解并克服基本限制，例如死亡。
-
对机器学习中归一化常数估计的新的复杂性分析
研究人员开发了一个新的理论框架，用于分析概率分布中归一化常数估计的复杂性。这项工作侧重于退火重要性采样方法，提供了非渐近分析，在达到指定的相对误差时，其预言机复杂性为 \(\\widetilde{O}(\frac{d\beta^2{\mathcal{A}}^2}{\varepsilon^4})\)。该分析利用Girsanov定理和最优传输，避免了显式的等周假设。此外，还提出了一种使用反向扩散采样器的新算法来处理大作用量和多模态问题，并…
-
新的贝叶斯框架优化神经网络学习率
研究人员引入了一个新颖的概率框架来优化神经网络训练中的学习率，超越了经验性的试错法。这种新方法将经典的贝叶斯统计发展为一种双贝叶斯决策机制。该框架理论上推导出了最优学习率，并通过在各种分类、分割和检测任务上的实验进行了验证。