ModeBench

新的基准测试 ModeBench 揭示 RLVR 导致解决方案多样性崩溃

研究人员推出了一款名为 ModeBench 的新基准测试，旨在评估通过强化学习训练的语言模型生成的解决方案的多样性。他们的研究结果表明，当前的强化学习技术虽然提高了准确性，但往往会减少模型能够产生的正确答案的种类。为了解决这个问题，他们开发了一种名为 Re:Max 的方法，该方法对模型发现的不同解决方案进行统一训练，从而在各种模型规模和任务复杂度上都提高了成功率和解决方案的多样性。