实体
DRA-GRPO
DRA-GRPO
PulseAugur coverage of DRA-GRPO — every cluster mentioning DRA-GRPO across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的RoAR方法通过惩罚虚假逻辑来增强LLM推理能力
研究人员开发了一种名为RoAR（Rollout-Agreement Reward）的新方法，用于改进使用基于组的策略优化（GRPO）训练的语言模型的推理能力。通过分析正确答案轨迹之间的一致性，RoAR能够识别并惩罚虚假推理，例如内部不一致或滥用问题条件。在五个数学推理基准上的评估中，一个1.5B的GRPO-RoAR模型仅使用7K个训练示例就达到了55.5%的平均pass@1率，比现有的GRPO方法高出5个百分点以上。随后的审计证实，与…
-
新的 DRA-GRPO 方法通过鼓励多样化路径来提升 LLM 数学推理能力
研究人员推出了一种新颖的 DRA-GRPO 框架，旨在通过解决标准 GRPO 方法中固有的多样性-质量不一致性来增强大型语言模型的数学推理能力。这种新方法使用语义密度和子模互信息来校准奖励信号，以消除梯度估计的偏差，鼓励模型探索更广泛的有效推理策略。在五个数学基准上的实证结果表明，DRA-GRPO 的性能显著优于现有方法，在训练样本数量有限且成本较低的情况下，在 DeepSeek-R1-Distill-Qwen-1.5B 数据集上达到…