实体
Alberto Fernández-Hernández
Alberto Fernández-Hernández
PulseAugur coverage of Alberto Fernández-Hernández — every cluster mentioning Alberto Fernández-Hernández across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的OUIDecay方法逐层自适应CNN正则化
研究人员推出了一种新颖的卷积神经网络自适应权重衰减方法OUIDecay。该技术根据在线激活模式动态调整每层的正则化强度，旨在提高训练效率和性能。与现有方法不同，OUIDecay不需要验证集，并在多个基准数据集和网络架构上展示了卓越的结果。
-
新研究改进了 Adam 优化器的内存和噪声动态
两篇新研究论文探讨了 Adam 优化器的细微差别，Adam 优化器是深度学习中一个流行的工具。第一篇论文为 Adam 的动量参数提出了一条“刷新规则”，建议它应该随着训练数据的大小进行缩放，以优化不同规模下的性能和鲁棒性。第二篇论文深入研究了小批量噪声（受批量大小和 Adam 超参数的影响）如何影响优化器的隐式偏差和泛化能力，特别是在多周期训练场景中。