PulseAugur
中
实时 07:05:57
实体 EP8TP2

EP8TP2

PulseAugur coverage of EP8TP2 — every cluster mentioning EP8TP2 across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_360348 ·

    新的 TPU 内核优化混合专家模型 LLM 推理

    研究人员开发了 Fuse-All MoE,这是一种新颖的 TPU 内核,旨在优化混合专家(MoE)大型语言模型(LLM)的推理效率。该内核通过融合 token 收集、专家投影、门控激活和输出写入来解决数据移动和专家负载均衡中的瓶颈问题,并将专家计算中间结果保留在片上。实验表明,与现有基线相比,内核运行时间和延迟显著降低,服务吞吐量提高了高达 34.5%。