实体
Hutchinson
Hutchinson
PulseAugur coverage of Hutchinson — every cluster mentioning Hutchinson across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的 CWGD 方法改进了深度学习的优化噪声测量
研究人员开发了一种名为曲率加权梯度多样性 (CWGD) 的新方法，以更好地测量深度学习模型中的优化噪声。与传统上同等对待所有参数方向的方法不同，CWGD 考虑了高曲率方向的噪声影响较小的这一事实。通过用 Hessian 的平方根的倒数来加权梯度多样性，CWGD 为有效的优化噪声提供了更准确的代理。与标准的余弦退火相比，CWGD 调制的余弦学习率计划 CWGD-Cosine 已显示出将最终优化误差降低高达 20% 的潜力，而开销可忽略不计。
-
新StAD方法加速生成模型似然计算
研究人员开发了一种名为StAD的新方法，以提高扩散和流模型生成器中似然计算的速度和准确性。该技术绕过了计算概率流ODE的雅可比矩阵的需要，而是使用Langevin-Stein算子直接学习散度。StAD在各种密度估计任务上已证明其性能与Hutchinson和Hutch++等现有方法相比具有竞争力，显示出更高的方差和速度。