一篇新论文探讨了 Langevin 扩散动力学,重点关注一个被限制在势函数零集上的过程在大参数极限下的行为。该研究根据局部学习系数将零集划分为层,并证明了扩散收敛到一个偏向于高维层的随机演化。这项工作受到奇异学习理论和深度学习问题的启发,提出了随机梯度方法偏好奇异的、泛化良好的解的一种机制。 AI
影响 提出了深度学习模型泛化良好的理论机制,可能为未来的模型设计提供信息。
排序理由 关于概率和机器学习中理论主题的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- deep learning
- Langevin dynamics
- Singular Learning Theory
- Stochastic Gradient Methods for Distributionally Robust Optimization with f-divergences
- Watanabe
- X_t
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →