实体
Alexandru Meterez
Alexandru Meterez
PulseAugur coverage of Alexandru Meterez — every cluster mentioning Alexandru Meterez across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
Anytime Pretraining 采用无视界 LLM 训练和权重平均
研究人员推出了一种新颖的大型语言模型训练方法“Anytime Pretraining”，该方法无需预定义训练视界。该方法结合了无视界学习率调度和权重平均，在最终损失方面与传统的余弦衰减调度相当。研究结果表明，这种随时可用的策略为大型语言模型预训练提供了一种实用且有效的方法，尤其是在开放式训练场景中。
-
Seesaw方法通过优化批次大小和学习率调度来加速LLM训练
研究人员开发了一种名为Seesaw的新方法，通过优化批次大小和学习率的调度来加速大型语言模型的训练。该方法在理论上证明了SGD的学习率衰减与批次大小增长之间的等价性，并将其扩展到Adam的代理。实证表明，Seesaw在FLOPs方面与余弦衰减相当，同时将Chinchilla规模模型的训练时间缩短了约36%。
-
二次模型在LLM优化动态预测方面展现出预测能力
一篇新发表在arXiv上的论文提出，简单的二次模型可以出人意料地准确预测大型语言模型（LLM）的优化动态。研究人员通过分析这些模型的Hessian谱和局部稳定性，证明了他们可以在训练过程的很大一部分中预测优化行为。研究发现，LLM优化通常发生在随机稳定性边缘，并受批量大小和预处理程序等因素的影响。