Relative Surprisal Index

新的相对惊奇度指数增强了 RLVR 中 LLM 的推理能力

研究人员引入了相对惊奇度指数（RSI），这是一个旨在改进大型语言模型（LLM）的可验证奖励强化学习（RLVR）的新指标。RSI 结合了 Token 熵和所选 Token 的概率，解决了先前专注于高熵或低概率 Token 的冲突方法。通过提出 RSI 选择（RSI-S），一种自适应 Token 过滤方法，研究人员在各种 Qwen2.5 模型规模的 AIME 和 AMC 等基准测试中展示了性能的提高，与 GRPO 相比，平均准确率（avg…