实体
SNX9
SNX9
PulseAugur coverage of SNX9 — every cluster mentioning SNX9 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
WiSP 使大型 MoE 模型能够在低资源 GPU 上运行
研究人员开发了 WiSP（Working-Set Paging），一个新颖的系统，旨在使大型专家混合（MoE）模型能够在低资源硬件上运行，例如 24GB RTX 3090 GPU。WiSP 将 MoE 服务视为一个运行集问题，管理路由专家权重和 KV 缓存之间在有限 VRAM 上的竞争。在相同的内存限制下，该系统实现了高达静态卸载方法两倍的解码吞吐量。此外，还引入了一种称为 MV-WSA（Marginal-Value Working-…
-
新的剪枝方法通过保留输出差异来提高LLM效率
研究人员推出了一系列名为“差异感知剪枝”的新剪枝方法，旨在提高大型语言模型的效率。这些方法侧重于保留模型输出之间的差异，而不仅仅是大的激活或层输出，以更好地捕捉稀疏性敏感神经元如何将相似的输入分离成不同的输出。所提出的技术，包括Wisp、Wisp+和Whisper，在各种Llama模型和参数大小上都显示出比现有基线持续的改进，甚至扩展到结构化稀疏性和其他模型家族。
-
新框架对具有理论保证的MAXCUT聚类算法进行分析
本文介绍了一个新的框架，用于分析用于划分从两个亚高斯分布混合物中抽取的样本的三个算法——SDP1、BalancedSDP和谱聚类。研究人员为这些算法提供了统一的理论保证，表明只要定义的信噪比（SNR）足够高，即使在部分恢复的情况下，它们也能实现多项式错误分类率。此外，研究表明SDP1和BalancedSDP的错误分类误差随SNR呈指数衰减，当簇大小相等时，BalancedSDP无需显式去偏。