一篇新发表在arXiv上的研究论文分析了具有二次激活函数的浅层神经网络在高维训练动力学。该研究侧重于网络宽度随输入维度缩放的广泛宽度区域,并使用动力学平均场理论来表征梯度流。研究结果为过参数化如何影响学习和泛化提供了量化见解,揭示了在存在标签噪声的情况下出现的双下降现象,并为l2正则化下的完美恢复阈值提供了精确表达式。 AI
影响 为理解过参数化对神经网络学习和泛化的影响提供了理论基础。
排序理由 该集群包含一篇发表在arXiv上的研究论文,详细介绍了神经网络动力学的理论分析。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →