PulseAugur
中
实时 19:32:44

新型优化器ZENITH为计算机视觉模型自动化学习率调度

作者 PulseAugur 编辑部 · [2 个来源] ·

研究人员推出了一种名为ZENITH的新型优化器，旨在为深度计算机视觉模型自动化学习率调度。与现有的自适应优化器不同，ZENITH的计算和内存开销为零，并且与正则化技术兼容。在各种图像分类、目标检测和分割任务上的实验表明，与基线方法相比，ZENITH能在更短的时间内获得更高的准确率。另一篇论文重新审视了分析随机梯度算法的经典假设，重点关注方差假设及其在确定性和随机优化问题中的相关性。 AI

影响 引入了一种新型优化器，有望提高计算机视觉模型的训练效率和准确率。

排序理由 两篇arXiv论文讨论机器学习的优化算法。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新型优化器ZENITH为计算机视觉模型自动化学习率调度

报道来源 [2]

  1. arXiv cs.LG TIER_1 English(EN) · Dhrubo Saha ·

    ZENITH: Automated Gradient Norm Informed Stochastic Optimization

    arXiv:2601.15212v2 Announce Type: replace Abstract: Training deep computer vision models requires manual oversight or hyperparameter tuning of the learning rate (LR) schedule. While existing adaptive optimizers schedule the LR automatically, they suffer from computational and mem…

  2. arXiv stat.ML TIER_1 English(EN) · Ahmet Alacaoglu, Yura Malitsky, Stephen J. Wright ·

    Towards Weaker Variance Assumptions for Stochastic Optimization

    arXiv:2504.09951v2 Announce Type: replace-cross Abstract: We revisit a classical assumption for analyzing stochastic gradient algorithms where the squared norm of the stochastic subgradient (or the variance for smooth problems) is allowed to grow as fast as the squared norm of th…

相关实体

相关话题