实体
Shift-Invariant Variance Estimator
Shift-Invariant Variance Estimator
PulseAugur coverage of Shift-Invariant Variance Estimator — every cluster mentioning Shift-Invariant Variance Estimator across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的SIVE方法改进了神经网络损失景观分析
研究人员开发了一种名为移不变方差估计器（SIVE）的新方法，以更准确地测量训练过程中神经网络损失景观的几何形状。在网络未处于稳定最小值时，估计局部学习系数（LLC）的传统方法容易产生偏差。SIVE通过使用一种基于方差的方法来解决这个问题，该方法固有地消除了未知的加性基线，从而能够更清晰地将几何损失波动与噪声分离开来。在玩具模型和深度神经网络上的实验表明，即使在旧方法失败的情况下，SIVE也能准确跟踪训练过程中的结构相变。
-
新研究探索鲁棒优化和强化学习技术 · 已追踪 6 个来源
几篇新研究论文探索了强化学习和优化中的先进技术，重点关注鲁棒性和生成模型。其中一篇论文引入了一个平稳鲁棒均值场博弈框架，以解决多智能体强化学习中的模型不匹配问题，并建立了具有收敛保证的新算法。另一篇论文提出了生成式鲁棒优化 (GRO)，它使用深度生成模型来定义不确定性集，以实现更具表现力和可处理性的优化。此外，还提出了一种名为 SIVE 的新估计器，用于绕过神经网络损失景观中的最小化偏差，提供了一种鲁棒的训练诊断工具。最后，引入了一种…