实体
Reft
Reft
PulseAugur coverage of Reft — every cluster mentioning Reft across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的RLVR方法通过首个Token多样化和信用分配来增强LLM推理能力
两篇新的研究论文探讨了改进用于训练推理模型的RLVR(带可验证奖励的强化学习)的方法。第一篇论文介绍了REFT(首个Token多样化的Rollout探索),一种通过关注推理标记后的首个Token来使Rollout多样化的技术,从而在各种模型规模和难度级别上提高了性能。第二篇论文提出了HAPO(事后追溯感知策略优化),该方法通过基于奖励极性和Token熵分解Token更新来分析Token更新,表明持续的推理收益集中在高熵象限,并在数学推…
-
PreFT方法通过仅预填充的微调提升LLM服务吞吐量
研究人员开发了PreFT,一种新颖的参数高效微调方法,旨在提高个性化大型语言模型服务的效率。PreFT通过仅在预填充阶段应用适配器并在解码阶段丢弃它们来优化服务吞吐量。这种方法显著提高了吞吐量,对性能的影响最小,并为个性化LLM服务提供了更有利的准确性-吞吐量权衡。