实体
Ria
Ria
PulseAugur coverage of Ria — every cluster mentioning Ria across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的剪枝方法通过保留输出差异来提高LLM效率
研究人员推出了一系列名为“差异感知剪枝”的新剪枝方法，旨在提高大型语言模型的效率。这些方法侧重于保留模型输出之间的差异，而不仅仅是大的激活或层输出，以更好地捕捉稀疏性敏感神经元如何将相似的输入分离成不同的输出。所提出的技术，包括Wisp、Wisp+和Whisper，在各种Llama模型和参数大小上都显示出比现有基线持续的改进，甚至扩展到结构化稀疏性和其他模型家族。
-
新的CRePE方法提高了LLM剪枝效率
研究人员开发了CRePE，一种用于大型语言模型训练后剪枝的新方法，通过结合二维局部邻域上下文和自适应系数来提高效率。该方法在各种模型和稀疏度级别上都优于现有的剪枝技术。为了加速优化过程，他们还引入了PHO，一种基于代理的超参数优化方法，将搜索时间从几小时显著缩短到几分钟，并在不同模型上表现出强大的泛化能力。