实体 CWGD-Cosine

CWGD-Cosine

PulseAugur coverage of CWGD-Cosine — every cluster mentioning CWGD-Cosine across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_117170 · Jun 29 · 15:22

新指标 CWGD 改进了机器学习中的优化噪声测量

研究人员引入了曲率加权梯度多样性 (CWGD)，这是一种旨在更好地测量机器学习模型中优化噪声的新颖指标。与将所有参数方向同等对待的传统方法不同，CWGD 考虑了曲率的影响，认识到高曲率方向对噪声不敏感。这种新度量在 CWGD-Cosine 学习率计划中使用时，与二次设置中的标准余弦退火相比，在优化最终误差方面有约 20% 的降低潜力，而开销可忽略不计。