研究人员引入了相对惊奇度指数 (RSI),这是大型语言模型中用于可验证奖励强化学习 (RLVR) 的一项新指标。RSI 旨在通过同时考虑 Token 熵和概率来调和 RLVR 中的冲突方法。提出的 RSI 选择 (RSI-S) 方法在稳定的 RSI 区间内过滤 Token,去除冗余和不稳定的 Token。实证结果表明,RSI-S 在各种 Qwen2.5 模型规模的 AIME 和 AMC 等基准测试中提高了准确性。 AI
影响 引入了一种新颖的指标和过滤方法,可以提高 RLVR 应用中 LLM 的推理能力。
排序理由 该集群包含一篇学术论文,详细介绍了一种用于提高 LLM 推理能力的新指标和方法。
- AMC
- GRPO
- large-language models
- Qwen2.5-1.5B
- Qwen2.5-3B
- qwen2.5:7b
- Relative Surprisal Index
- RLVR
- RSI Selection
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →