新的联邦学习方法解决LLM偏好异质性问题

研究人员开发了FedGD，一种用于大型语言模型个性化奖励建模的新型联邦学习方法。该方法通过学习一个单一的、可适应的奖励模型来解决用户偏好异质性的挑战，而不是为不同的用户组训练单独的模型。FedGD通过群组去偏的客户端采样，有效地抵消了偏好群体不平衡的负面影响，确保学习到的初始化对于有效的个性化保持适应性。 AI

影响 这项研究可以提高在去中心化环境中使LLM与多样化用户偏好保持一致的效率和有效性。

排序理由 该集群包含一篇详细介绍LLM联邦学习新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• CORE Recommender
• DagsHub
• FedAvg
• Federated Learning
• FedGD
• Gotit.pub
• Hugging Face
• IArxiv Recommender
• LLMs
• ScienceCast

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →