一篇新发表在arXiv上的论文提出,机器学习模型中“双下降”现象可以用统计力学中的最小作用量原理来解释。该研究将基于随机梯度的方法的训练轨迹框架化为一个粒子在能量景观中移动,其中添加参数可以有效降低温度并影响玻尔兹曼分布。该框架表明,增加参数可以作为一种权重正则化形式,影响模型的测试误差。 AI
影响 为理解模型行为提供了一个新颖的理论视角,可能指导未来模型优化和泛化方面的研究。
排序理由 该集群包含一篇详细介绍理解机器学习现象新理论框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- Connected Papers
- cs.LG
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv
- Litmaps
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →