PulseAugur
中
实时 16:36:49
实体 LLMStation

LLMStation

PulseAugur coverage of LLMStation — every cluster mentioning LLMStation across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_367356 ·

    BubbleTea 系统通过重新利用 GPU 空闲时间来提升 LLM 微调效率

    研究人员开发了 BubbleTea,一个新颖的共置系统,旨在提高利用专家混合(MoE)架构的大型语言模型(LLM)微调效率。该系统通过重新利用“专家并行气泡”——由 GPU 间不均衡的 token 分布引起的利用率不足的时期——来解决 LLM 推理期间 GPU 的空闲容量,用于微调任务。BubbleTea 预测并用微调工作填充这些气泡,重用已加载的模型权重,并已证明与 LLMStation 等现有共置系统相比,微调吞吐量显著提高,同时…