研究人员开发了TRACE，一种用于混合专家（MoE）语言模型使用FP4精度进行量化感知训练的新型框架。该方法通过使用滚动（rollout）侧的量化结果来指导训练侧的舍入决策，直接减小了训练和滚动路径之间的差异。TRACE还采用了一种高效的量化信息缓存方案，减少了存储和通信开销。评估表明，TRACE在滚动生成方面实现了高达5.4倍的速度提升，性能与BF16滚动相当。 AI
影响 通过降低计算和内存需求，实现了更大语言模型更高效的训练和部署。
排序理由 该集群包含一篇详细介绍新的模型训练技术框架的研究论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2610.07767v1 Announce Type: cross Abstract: Reinforcement learning (RL) for post-training large language models (LLMs) incurs substantial computation and memory overhead during rollout generation, which motivates low-precision rollout for efficient RL training. However, exi…
Reinforcement learning (RL) for post-training large language models (LLMs) incurs substantial computation and memory overhead during rollout generation, which motivates low-precision rollout for efficient RL training. However, existing FP4 RL methods suffer from a key limitation:…