研究人员开发了一种新的贝叶斯学习规则(BLR),它超越了Kullback-Leibler散度(KLD)几何的限制。这种广义BLR利用混合空间Bregman或Fenchel-Young散度,实现了加性信息几何优化算法。新方法可以推导出广义最大熵族和正则梯度更新,这可能带来经典基于KL的BLR无法实现的算法。在CIFAR-100上的实验表明,这种广义BLR可以产生可控的支持和重尾q-高斯后验,并具有竞争力。 AI
影响 为贝叶斯学习引入了更灵活的数学框架,可能在新算法和机器学习任务的模型性能提升方面发挥作用。
排序理由 关于机器学习新理论框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Bayesian Learning Rule
- Bregman discrepancies
- CIFAR-100
- Fenchel-Young discrepancies
- KL geometry
- Kullback--Leibler divergence
- q-Gaussian distribution
- Tsallis negentropy
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →