实体 SF-AdamW

SF-AdamW

PulseAugur coverage of SF-AdamW — every cluster mentioning SF-AdamW across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_48587 · May 21 · 21:50

新的优化器SF-NorMuon在没有计划的情况下也能达到AdamW的性能

研究人员开发了SF-NorMuon，这是一种新的无计划谱优化器，其性能可与传统的AdamW优化器相媲美或超越。这一进展解决了当前随时随地训练方法的一个关键限制，即无计划的方法通常表现不佳。SF-NorMuon能够在没有预定义时间范围的情况下，在任何时候实现高质量的训练检查点，使其成为开放式持续学习的更实用的工具。