Shangjian Yin

新研究探讨强化学习跨域泛化

一篇新的arXiv论文探讨了语言模型在强化学习（RL）中不同域之间的学习迁移。该研究题为“在何处以及奖励什么？理解强化学习中可验证与开放域之间的泛化”，研究了在可验证奖励（RLVR）上训练的模型以及在开放式对话中基于人类反馈（RLHF）训练的模型，在训练数据变化时的表现。研究人员发现，在开放式提示上进行RLHF可以显著提升对话能力，同时也能改善推理和编码任务，而RLVR主要增强推理能力，但在开放式对话中的提升有限。