研究人员开发了HARTS,一个旨在提高混合注意力模型智能强化学习(RL)效率的新系统。HARTS通过采用前缀压缩和数据并行副本优化调度等技术,解决了在不规则展开树中重新计算共享前缀的挑战。该系统实现了激活重计算和状态恢复,在源自SWE-bench任务的智能RL工作负载上实现了高达4.8倍的显著加速。 AI
影响 该系统可能导致更高效的复杂AI代理训练,从而加速能够执行复杂任务的AI的开发。
排序理由 该集群描述了一篇关于AI模型训练新系统的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →