PulseAugur
中
实时 20:12:55
实体 Yuchen Yang

Yuchen Yang

PulseAugur coverage of Yuchen Yang — every cluster mentioning Yuchen Yang across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_48811 ·

    ZipMoE 系统实现了大型语言模型的高效设备端服务

    研究人员开发了 ZipMoE，这是一个旨在提高混合专家（MoE）大型语言模型在设备端部署效率的系统。ZipMoE 利用无损压缩和缓存亲和调度方法，在不牺牲模型准确性的前提下，减小了内存占用并提高了推理速度。实验表明，在边缘设备上，延迟显著降低，吞吐量显著提高，推理瓶颈从 I/O 转移到了计算。