一篇新发表在arXiv上的研究论文详细介绍了随机梯度下降（SGD）预处理器的设计标准，重点关注局部条件、噪声底和盆地稳定性。该论文推导了收敛速率和噪声底受对称正定矩阵M影响的界限。对于非凸目标，它建立了依赖于预处理器的盆地稳定性保证，这对于科学机器学习（SciML）应用尤其重要，因为在这些应用中物理保真度和数值稳定性至关重要。在诊断和SciML基准测试上的实验验证了所提出的通过选择M来改善局部条件并降低噪声的设计原则。 AI
影响 为优化机器学习模型训练提供了理论见解，有望带来更稳定、更高效的学习过程。
排序理由 这是一篇发表在arXiv上的研究论文，详细介绍了机器学习优化算法的理论和实验发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
