一篇新的arXiv论文探讨了广义线性模型中马尔可夫链蒙特卡洛(MCMC)方法的计算复杂度,并将其与拉普拉斯近似(LA)和变分推断(VI)进行了比较。研究表明,对于线性、逻辑回归和泊松回归,当样本量 $n$ 大约与维度 $d$ 成正比时,MCMC的复杂度缩放与一阶优化算法相当。这一发现表明,在比伯恩斯坦-冯·米塞斯定理先前确定的更一般的缩放条件下,MCMC在计算成本方面与LA和高斯VI具有竞争力。 AI
影响 为贝叶斯推断方法的计算权衡提供了理论见解,这对于开发更高效的AI模型具有相关性。
排序理由 该集群包含一篇详细介绍理论研究结果的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Bayesian inference
- Bernstein-von Mises theorems
- Gaussian VI
- Laplace Approximation
- linear regression
- logistic regression model
- Markov Chain Monte Carlo
- Martin Shakkum
- Poisson regression model
- Student's t-test
- Variational Inference
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →