实体
Gefen
Gefen
PulseAugur coverage of Gefen — every cluster mentioning Gefen across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Gefen 优化器声称 LLM 训练内存减少 8 倍
Gefen 是一种新的优化器，旨在作为 AdamW 的直接替代品，目标是显著减少模型训练期间的内存使用量。开发者声称 Gefen 可以实现高达 8 倍的内存需求减少。该项目已在 GitHub 上发布了其代码并发表了相应的论文。
-
新的优化技术出现，可实现更快、更高效的 AI 模型训练 · 跟踪 8 个来源
几篇最新的 arXiv 论文探讨了机器学习优化技术的进展。研究人员提出了新的方法，如权重自适应 ASNG (WA-ASNG) 以提高进化算法的并行性能，以及通过子空间获取函数实现的可扩展批量贝叶斯优化，以提高大批量处理的效率。其他工作引入了 MGUP，一种用于随机优化的动量梯度对齐更新策略，以及 OptEMA，一种用于无噪声最优化的自适应指数移动平均。此外，Gefen 等新的优化器旨在减少内存占用同时保持性能，理论分析也为随机梯度下降…