研究人员推出了一种名为AdamNX的优化算法,旨在改进现有的Adam方法以训练机器学习模型。该新算法采用了一种新颖的指数衰减机制来估计二阶矩,旨在使训练更新在平台期更接近动量-SGD。论文展示了在图像分类、目标检测和语义分割任务上的结果,并指出这些发现并未建立广泛的统计效应或超出报告配置的泛化能力。AdamNX的代码已开源。 AI
影响 引入了一种新颖的优化技术,可能提高各种机器学习任务的训练效率和性能。
排序理由 该条目是一篇研究论文,详细介绍了一种用于机器学习优化的新算法。[lever_c_research降级:ic=1 ai=1.0]
- Adam
- AdamNX
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- Meng Zhu
- momentum-SGD
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →