一项新的研究论文探讨了数据不平衡如何能出人意料地改善模型泛化能力,尤其是在像Transformer这样足够强大的模型中。研究发现,当捷径特征与训练数据中的真实标签高度相关时,增加这种不平衡会导致更好的对抗性准确率。在更简单、能力较弱的模型中未观察到这种效应,这表明模型容量在利用数据不平衡实现鲁棒泛化方面起着至关重要的作用。 AI
影响 提出了改进人工智能模型鲁棒性和泛化能力的新训练策略,尤其是在存在虚假关联的场景中。
排序理由 该集群包含一篇发表在arXiv上的研究论文,详细介绍了机器学习模型泛化能力的研究结果。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- Influence Flower
- ScienceCast
- Transformer++
- When Data Imbalance Helps: Robust Generalization Through Shortcut Saturation
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →