Xiangwei Wang

新方法通过内在奖励增强 LLM 推理能力

研究人员开发了一种名为分步边际信息增益（MIG）的新方法，以提高大型语言模型（LLM）和视觉语言模型（VLM）的推理能力。MIG 根据推理过程的每一步如何增加正确答案的可能性来计算内在奖励，提供比传统稀疏二元奖励更精细的反馈机制。该方法在各种基准测试中均显示出显著的改进，其性能优于仅基于结果的奖励，甚至在某些视觉语言任务中超越了外部过程奖励模型（PRM），而无需额外的推理时间处理。