新方法在深度学习训练期间自适应选择优化器

研究人员开发了一种名为重复优化器重采样（ROR）的新方法，以改进深度神经网络训练的优化器选择。ROR 不在训练开始时选择单一优化器，而是允许系统在训练过程中自适应地切换优化器。这种方法包括候选优化器的定期侦察，表现最佳的侦察员将继续进行主要的训练运行。在包括 MNIST 和 Fashion-MNIST 在内的各种数据集上的评估表明，ROR 变体在所需的总训练时间显著减少的情况下，达到了接近最佳固定优化器的性能。 AI

影响 这种自适应优化器选择方法可以减少深度学习应用中的训练时间并提高模型性能。

排序理由 该集群包含一篇详细介绍机器学习优化新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• arXiv
• DagsHub
• Fashion-MNIST
• Hugging Face
• IArxiv
• MNIST database
• Ruby on Rails

• 论文
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →