AOS-R

新的AOS-R系统通过切换优化器来优化深度学习训练

研究人员开发了AOS-R，一种新颖的自适应优化器切换系统，旨在提高深度网络训练效率和泛化能力。该系统监控六个在线梯度空间信号，根据不断变化的优化景观动态地在AdamW、SGD-M和Lion等优化器之间切换。在WRN-28x10模型在CIFAR-100上的测试中，AOS-R与单独的优化器相比，在更少的epoch内实现了更高的准确率，并在多个基准测试中展示了更高的准确率和更快的收敛速度。