研究人员开发了一种新的统计学习理论来理解机器学习模型的尺寸泛化。该理论建立了样本复杂度的尖锐指数分离,表明虽然域内学习误差随样本数量呈多项式衰减,但尺寸泛化误差衰减得慢得多,呈样本大小的对数函数。该工作确定了一个特定的指数源条件,在此条件下尺寸泛化可以实现多项式样本复杂度,提供了无维度缩放定律和匹配最优性能的极小极大下界。 AI
影响 这项研究为理解机器学习模型如何泛化到不同尺寸的数据提供了理论基础,有可能提高其在现实场景中的鲁棒性和适用性。
排序理由 该条目是一篇提交到 arXiv 的研究论文,详细介绍了一个新的理论框架。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- Bibliographic Explorer
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- cs.LG
- DagsHub
- Dimension-Free Scaling Laws for Size Generalization: An Exponential Separation
- Gotit.pub
- Hugging Face
- Influence Flower
- Litmaps
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →