研究人员探讨了“过拟合”（grokking）现象，即机器学习模型在长时间训练后突然从记忆转向泛化。利用奇异学习理论（SLT），他们提出过拟合涉及不同解盆地之间的转换，较低的局部学习系数（LLCs）表明有利于泛化的盆地。该研究推导了浅层二次网络的LLC解析公式，并表明估计的LLC轨迹可以有效地跟踪训练过程中泛化的开始。 AI
影响 为理解神经网络中的泛化提供了一个理论框架，可能指导未来的模型训练策略。
排序理由 这是一篇发表在arXiv上的研究论文，详细介绍了对机器学习现象的理论和实证研究。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
