研究人员推出了一种新颖的联邦学习框架 Fed-GRPO,用于在不损害数据隐私的情况下,利用强化学习训练大语言模型(LLMs)。该方法利用训练过程中生成的奖励信号作为通信高效信号,来指导聚合和本地训练过程。实验表明,Fed-GRPO 显著降低了通信开销,并在数学推理任务上接近集中式训练的性能。 AI
影响 这项研究可能实现更具隐私保护和通信效率的大语言模型训练,以适应特定任务。
排序理由 该集群包含一篇详细介绍大语言模型新训练方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →