algorithmic stability
PulseAugur coverage of algorithmic stability — every cluster mentioning algorithmic stability across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新框架量化集成中的算法稳定性
本文介绍了一个量化算法稳定性的通用框架，重点关注使用平均法的集成策略。核心理论发现是对集成算法的稳定性保证，该保证源于表征集成过程的特定协方差算子的范数。作者们展示了该框架如何为各种实际数据扰动场景提供清晰的见解，并提供比仅基于隐私的保证更精确的保证。
-
研究发现特征装袋可增强算法稳定性
研究人员分析了特征装袋（一种在随机抽样的特征子集上训练基学习器的集成方法）对算法稳定性的影响。他们引入了“特征不稳定性”（FI）作为类似于“实例不稳定性”（II）的度量，发现较低的FI和II值表示更高的稳定性。在参数化和无模型设置中的实验表明，与非装袋方法相比，特征装袋增强了稳定性，更激进的子采样可带来更大的改进。研究还表明，适度的装袋轮数可以达到接近无限装袋的稳定性水平。
-
研究发现：凸学习需要仿射聚合才能稳定收敛
一篇新发表在arXiv上的研究论文探讨了凸学习与非仿射聚合方法之间的关系。该研究证明，在保证一阶凸学习的收敛性和泛化性方面至关重要的梯度更新单调性，只有在正仿射聚合规则下才能维持。研究表明，常用于强制执行隐私或公平性等约束的非仿射聚合，从根本上阻碍了稳定收敛并降低了算法稳定性。这些发现提供了一个理论框架来解释现代学习系统中的失败案例，并提出了恢复单调性的条件。
-
新方法分析非线性最小二乘模型中的泛化能力
研究人员开发了一种新方法来理解非线性最小二乘模型如何泛化。他们的方法利用平均算法稳定性来推导局部最小化器的误差界限。这些界限与训练参数处梯度模型的几何形状相关，提供了依赖于学习到的几何形状而非仅仅参数数量的见解。