实体
Overparameterization
Overparameterization
PulseAugur coverage of Overparameterization — every cluster mentioning Overparameterization across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究将参数对称性与神经网络中的表示几何联系起来
一篇新发表在arXiv上的研究论文探讨了过参数化非线性神经网络中参数对称性与表示几何之间的关系。研究表明，一类参数对称性可以分解为三种基本特征变换：加法、复制和缩放。这种分析可以将表示几何分解为基本和辅助组件，阐明在保持函数固定的情况下，退化如何随着过参数化而增加。研究还表明，特定的实现级别选择规则可以解决这种退化，从而产生可识别的反映网络功能贡献的几何形状。
-
新专著勾勒深度学习理论从近似到涌现的蓝图
一本题为《从近似到涌现：深度学习理论》的新专著，提供了一个统一的、面向证明的现代深度学习理论叙述。本书追溯了该领域从近似和泛化等经典概念到过参数化、生成模型、Transformer和涌现等当代主题的演变。它旨在为研究人员和从业者提供一个严谨的深度学习理论图谱，强调其当前的强大之处、不完整性以及日益增长的对学习机制如何从规模、数据、架构和训练中产生的关注。