PulseAugur
中
实时 08:30:16
实体 SlimWise

SlimWise

PulseAugur coverage of SlimWise — every cluster mentioning SlimWise across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_285180 ·

    SlimWise 框架提升 MoE 模型服务效率

    研究人员开发了 SlimWise，一个旨在提高专家混合（MoE）模型服务效率的新框架。SlimWise 将专家剪枝解耦，仅在解码阶段应用，而在预填充阶段使用完整模型。这种方法允许在解码过程中重用预填充生成的 KV 缓存，显著减少流量瓶颈。该框架还包括一个低成本的蒸馏阶段，以进一步弥合准确性差距。在 vLLM 中实现后，SlimWise 在 Qwen3.6-35B-A3B 模型上实现了高达 1.81 倍的解码吞吐量提升，同时仅进行了 5…