Ridge Regularization
PulseAugur coverage of Ridge Regularization — every cluster mentioning Ridge Regularization across labs, papers, and developer communities, ranked by signal.
-
新的规范不变正则化改进了有向图上的势能恢复
研究人员开发了一种新的正则化技术，用于从有向图中恢复潜在势能，解决了该问题的病态性质。传统的岭正则化可能会导致恢复的排序塌陷和反转，但提出的规范不变图狄利克雷能量方法在广泛的参数范围内提供了参数不敏感性和稳定性。这种新方法在点击流数据上保留了显著的动态范围，并通过防止深度有向 GCN 中的过度平滑，对图神经网络产生了影响。
-
研究论文强调高维插值器的脆弱性
一篇新发表在arXiv上的研究论文探讨了机器学习中高维插值器的脆弱性。该研究题为“高维插值器可能很脆弱：重尾和高维大偏差”，使用大偏差方法分析了无脊回归与有脊正则化估计器的对比。研究表明，虽然插值模型平均表现可能良好，但其风险可能表现出重尾行为，这意味着与正则化替代方案相比，罕见的严重错误更有可能发生。
-
新研究探讨带岭回归的战略特征选择
研究人员通过特征选择及其与岭回归的相互作用，对战略分类进行了正式研究。他们的发现表明，仅基于可操纵性排除单个特征通常不是最优选择。该研究提出了一种联合选择特征集和岭回归水平的实用算法，为减轻算法决策系统中的战略行为提供了一个框架，尤其是在医疗保健等高风险领域。
-
论文揭示线性回归模型的可解释性限制
一篇新发表在arXiv上的论文探讨了多重线性回归模型在可解释性方面的局限性，特别是在处理多重共线性时。该研究从理论上分析了相关的输入特征如何导致权重不稳定和振荡，从而阻碍物理解释。虽然Ridge正则化可以抑制这些不稳定的模式，但论文强调，即使在这些比深度神经网络更简单的模型中，解释所得权重时仍需谨慎。
-
新理论推广了宽神经网络的正则化
一篇新论文引入了一个新颖的框架，用于理解和推广宽神经网络中的正则化。研究发现，标准的岭正则化会扭曲特征学习网络的归纳偏置，尤其会影响预训练模型。为解决此问题，作者将一种与模型无关的规范正则化器公理化，并推导出了广义岭正则化，提出“arc ridge”作为一种实用、鲁棒的替代方法，它在不同学习模式下将早期停止与规范正则化联系起来。该理论通过图像处理和自然语言处理的实证研究得到了验证。