PulseAugur
中
实时 16:23:06
实体 Nereus

Nereus

PulseAugur coverage of Nereus — every cluster mentioning Nereus across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_269423 ·

    Nereus运行时实时调整大型语言模型训练后并行策略

    研究人员开发了Nereus,一个新颖的运行时系统,旨在实时调整大型语言模型(LLM)训练后任务的并行策略。当资源可用性或内存压力等因素在运行时发生变化时,传统方法难以应对,导致效率低下。Nereus通过动态选择和切换到新的、优化的执行计划来解决这个问题,将分布式模型状态表示为“弹性模型单元”,并使用过渡图来管理GPU传输。这种自适应方法已显示出显著的改进,与OpenRLHF等现有系统相比,平均步长延迟降低了27.7%,端到端吞吐量提高…