VC dimension
PulseAugur coverage of VC dimension — every cluster mentioning VC dimension across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新框架利用领域知识增强模型选择
一篇新论文介绍了一个用于模型选择的理论框架,该框架使用交叉验证,特别是在纳入领域知识时。该研究为整个学习流程建立了基于VC维度的偏差界,扩展了无界损失函数的现有结果。它提出了“学习空间”来根据领域知识构建候选模型,并证明了在处理高维线性回归时,适应良好的学习空间可以显著优于OLS、LASSO和岭回归等标准方法。
-
新的组合条件解决了 Proper Positive-Only Learning 问题
研究人员解决了机器学习中一个长期存在的关于 proper positive-only learning 的问题。该研究确立,如果一个概念类具有有限的 VC 维度并满足一个称为 uniform exterior separability 的新条件,那么它就可以从仅有正样本中进行 proper 学习。这一表征突显了与标准 PAC 学习的显著差异,包括 proper 和 improper 学习之间,以及确定性和随机 proper 学习之间的分离。
-
领域泛化研究引入域粉碎维度
研究人员引入了一种新的组合度量方法,称为域粉碎维度(domain shattering dimension),以解决领域泛化中的核心问题。该度量方法量化了在给定域族内训练一个在所有域上表现良好的模型所需的随机采样域的数量。研究确立了这一新维度与经典的VC维度之间的紧密关系,证明了在标准PAC框架下可学的任何假设类也在此领域泛化上下文中可学。
-
矛盾图精确确定VC维数
研究人员引入了一种使用矛盾图来确定二元概念类VC维数的新颖方法。该方法确立了m阶矛盾图G_m(H)可以确定H的VC维数是否至少为m。这些图的完整序列(m >= 1的G_m(H))精确地确定了确切的VC维数,解决了该领域一个长期存在的问题。
-
论文通过泛化界批评挑战深度学习理论
讨论了两篇论文,一篇是2016年由Zhang等人发表的,另一篇是2019年由Nagarajan和Kolter发表的,它们对深度学习理论产生了影响。2016年的论文表明,标准神经网络可以轻松记住随机数据,挑战了基于假设类复杂度的现有泛化理论。随后的研究试图开发依赖于数据的界限,但2019年的论文被认为是对此类努力的又一次打击,表明一致收敛可能不足以解释深度学习的成功。