研究人员探讨了高度过参数化的神经网络如何在同时记忆带噪声数据和有效泛化之间取得平衡。他们对高达80%标签噪声的算术任务的研究表明，在适当的优化下，更大的模型通常表现更好，并且带噪声标签的学习速度比干净标签更快。研究结果表明，这些模型内部存在一种泛化结构，可以通过基于频率的方法提取，从而实现高测试准确率。 AI
影响 这项研究为理解大型神经网络如何处理带噪声数据提供了见解，有望在具有不完美数据集的实际应用中构建更鲁棒的模型。
排序理由 该集群包含一篇详细介绍神经网络行为新研究发现的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2605.18022v1 Announce Type: cross Abstract: Highly over-parameterized models can simultaneously memorize noisy labels and generalize well, yet how these behaviors coexist remains poorly understood. In this work, we investigate the underlying mechanisms of this coexistence u…
Highly over-parameterized models can simultaneously memorize noisy labels and generalize well, yet how these behaviors coexist remains poorly understood. In this work, we investigate the underlying mechanisms of this coexistence using modular arithmetic tasks under heavy label no…