PulseAugur
中
实时 14:28:24
实体 Distributional Coverage Expert Pruning

Distributional Coverage Expert Pruning

PulseAugur coverage of Distributional Coverage Expert Pruning — every cluster mentioning Distributional Coverage Expert Pruning across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_338465 ·

    新的剪枝方法在保持性能的同时减小了MoE大型语言模型的内存占用

    研究人员开发了用于混合专家(MoE)大型语言模型中剪枝专家的新方法,解决了存储所有专家带来的显著内存开销问题。提出的技术,即投影能量专家剪枝(PEEP)和分布覆盖专家剪枝(DCEP),旨在保留专家输出的结构和功能子空间。在DeepSeek-V2-Lite和Qwen3-30B-A3B模型上的实验表明,即使只保留50%或75%的专家,这些方法在各种基准测试中保持性能方面也优于现有基线。