实体
Extragradient
Extragradient
PulseAugur coverage of Extragradient — every cluster mentioning Extragradient across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新EISAM优化器增强深度学习泛化能力
研究人员推出了一种名为“受外梯度启发的锐度感知最小化”（EISAM）的新型优化器，旨在提高深度学习的泛化能力。EISAM采用两步过程，包括预测和扰动步骤，以导航损失景观并找到更平坦的最小值。该方法旨在减少过拟合并提高在未见数据上的性能，其表现优于SGD和Adam等传统优化器以及标准的SAM。EISAM还显示出对扰动半径的敏感性降低，从而简化了调整并提高了跨各种架构和数据集的鲁棒性。
-
新的RAMPAGE方法为变分不等式提供无偏梯度外插
研究人员推出了一种新颖的求解变分不等式（VI）的方法RAMPAGE，该方法解决了外梯度（EG）方法固有的离散化偏差。RAMPAGE及其方差缩减版本RAMPAGE+提供了无偏解，并为各种问题类型实现了可证明的收敛保证。RAMPAGE+通过利用对抗性采样消除方差中的内部一阶项，充当无偏几何路径积分器，进一步改进了RAMPAGE。