PulseAugur
中
实时 07:44:25
English(EN) MemReward: Graph-Based Experience Memory for LLM Reward Prediction with Limited Labels

MemReward 使用图神经网络在有限标签下提升LLM奖励

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了MemReward，一个新颖的基于图的框架，旨在改善大型语言模型（LLMs）在标记数据稀缺时的强化学习。该方法使用图神经网络（GNN）将奖励信号从少量标记示例传播到大量未标记数据。实验表明，即使只有20%的数据被标记，MemReward也能达到接近Oracle（完全标记数据）的性能，证明了其在数学、问答和代码生成等各种任务中的有效性。 AI

影响 在数据稀缺的环境中实现更高效的LLM微调，可能加速各种AI应用的开发。

排序理由 该集群包含一篇详细介绍LLM奖励预测新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Tianyang Luo, Tao Feng, Zhigang Hua, Yan Xie, Shuang Yang, Ge Liu, Jiaxuan You ·

    MemReward: Graph-Based Experience Memory for LLM Reward Prediction with Limited Labels

    arXiv:2603.19310v3 Announce Type: replace Abstract: Reinforcement learning has emerged as a powerful paradigm for improving large language model (LLM) reasoning, where rollouts are sampled from the policy and reward signals computed on those rollouts are used to update the policy…

相关实体

相关话题