silage

新的SILAGE算法为大型数据集提供内存高效的优化

研究人员推出了一种新算法SILAGE，该算法专为机器学习中内存高效、无梯度的非凸优化而设计。该方法通过利用嵌套双有限和结构，解决了大型数据集上的经验风险最小化挑战。与需要昂贵的全局梯度刷新或不切实际的大内存占用的先前方法不同，SILAGE仅使用O(n)内存，并通过在每次迭代中最多评估一个局部组梯度来避免周期性的全局刷新。该算法的收敛性分析通过嵌套函数相似性适应数据几何，改进了现有的最先进的界限。