Tianyang Luo

MemReward 使用图神经网络在有限标签下提升LLM奖励

研究人员开发了MemReward，一个新颖的基于图的框架，旨在改善大型语言模型（LLMs）在标记数据稀缺时的强化学习。该方法使用图神经网络（GNN）将奖励信号从少量标记示例传播到大量未标记数据。实验表明，即使只有20%的数据被标记，MemReward也能达到接近Oracle（完全标记数据）的性能，证明了其在数学、问答和代码生成等各种任务中的有效性。