Chengyu Huang

新的POP框架利用自我博弈训练LLM处理开放式任务

研究人员推出了一种新颖的自我博弈框架POP，旨在增强大型语言模型（LLM）在开放式任务上的表现。与以往仅限于可验证任务的自我博弈方法不同，POP利用LLM本身生成评估标准以及任务输入和输出。该方法利用预训练语料库创建生成-验证差距，从而缓解奖励攻击和模式崩溃问题。将POP应用于Qwen-2.5-7B模型后，在医疗问答和创意写作等多种任务上均显示出性能提升。