实体
tapioca
tapioca
PulseAugur coverage of tapioca — every cluster mentioning tapioca across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
任务感知剪枝提升 LLM 离分布外性能
研究人员调查了任务感知层剪枝及其对模型能力的影响，特别是针对离分布外（OOD）数据。他们的发现表明，虽然这种剪枝方法对分布内数据没有益处，但它能持续提高 OOD 准确性。该研究提出了一个几何解释，认为剪枝识别并移除了扭曲任务适应几何形状的层，从而重新对齐 OOD 输入并提高各种模型规模下的性能。
-
任务感知剪枝提升 LLM 离分布外准确性
研究人员探索了任务感知层剪枝作为一种提高模型在特定任务上性能的方法，尤其是在处理离分布外 (OOD) 数据时。他们的研究表明，虽然这种剪枝技术对分布内数据没有改进，但在面对 OOD 输入时却能持续提高准确性。该研究提出了一个几何解释，认为 OOD 输入会扭曲模型的任务适应几何形状，而剪枝这些扭曲的层有助于重新对齐 OOD 输入，从而提高各种模型规模的性能。