实体
Tianhao Qian
Tianhao Qian
PulseAugur coverage of Tianhao Qian — every cluster mentioning Tianhao Qian across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的大语言模型剪枝技术旨在减小模型尺寸并提高效率
研究人员开发了用于剪枝大语言模型(LLMs)的新方法,以减小其尺寸和计算需求。一种方法,Global RKU-GISP,使用新颖的“全局相对动力学效用”指标来比较和选择LLM不同层之间的通道,在Qwen-2.5-7B上测试时,在各种稀疏度水平下模型性能均有显著提高。另一种方法,IrekoGPT,将预训练的LLM转化为“可瘦身”模型,可以在推理时调整其宽度,该方法基于SliceGPT,并在Llama和Qwen模型上展示了优于简单瘦身技术…
-
新的PAC-CF方法改进了LLM引导搜索的剪枝
研究人员推出了一种新颖的PAC-CF方法,用于校准LLM引导搜索中的不可逆前沿剪枝。该方法将树剪枝构建为一个PAC保证的决策问题,解决了可能导致有效解决方案被移除的不可约偏差。PAC-CF从验证器有效延续中的得分赤字中推导出一致性裕度,提高了跨不同领域的效用并降低了工作量指标。