研究人员推出了一种新算法SILAGE,该算法专为机器学习中内存高效、无梯度的非凸优化而设计。该方法通过利用嵌套双有限和结构,解决了大型数据集上的经验风险最小化挑战。与需要昂贵的全局梯度刷新或不切实际的大内存占用的先前方法不同,SILAGE仅使用O(n)内存,并通过在每次迭代中最多评估一个局部组梯度来避免周期性的全局刷新。该算法的收敛性分析通过嵌套函数相似性适应数据几何,改进了现有的最先进的界限。 AI
影响 这项新的优化技术可以实现对海量数据集上的大型机器学习模型进行更有效的训练。
排序理由 该集群包含一篇详细介绍新优化算法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv
- Litmaps
- PAGE
- ScienceCast
- SciTE
- SILAGE
- SILVER
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →