研究人员开发了Factored One-sided Adam-Moment (FOAM),这是一种新的优化器,旨在使SOAP等二阶优化方法在大型语言模型 (LLM) 预训练中更具实用性。FOAM通过减少内存使用和计算开销来实现这一点,具体方法是丢弃输出侧的Kronecker因子并使用因子化的Adam-moment估计器。这种方法使FOAM能够匹配更强的SOAP和Muon基线的性能,同时使用的优化器状态显著减少,运行速度相当。 AI
影响 这项研究通过使更高级的优化技术更易于获得,可能导致更高效、更具成本效益的大型语言模型训练。
排序理由 该集群描述了一篇关于用于大语言模型预训练的新型优化算法的最新研究论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →