PulseAugur
实时 13:27:09
English(EN) SDFLoRA: Selective Decoupled Federated LoRA for Privacy-preserving Fine-tuning with Heterogeneous Clients

新的SDFLoRA框架增强了联邦LLM微调的隐私性

研究人员推出了一种新颖的大型语言模型联邦学习框架SDFLoRA,该框架解决了异构客户端带来的挑战。SDFLoRA选择性地将客户端更新解耦为共享和私有组件,从而在保持差分隐私的同时实现稳定的聚合和更好的个性化。实验表明,SDFLoRA的性能优于现有的联邦LoRA方法,提供了改进的效用-隐私权衡。 AI

影响 SDFLoRA提高了联邦LLM微调的隐私性和个性化,有望实现更强大、更安全的分布式人工智能开发。

排序理由 该集群包含一篇详细介绍LLM微调新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Zhikang Shen, Jianrong Lu, Haiyuan Wan, Jianhai Chen ·

    SDFLoRA: Selective Decoupled Federated LoRA for Privacy-preserving Fine-tuning with Heterogeneous Clients

    arXiv:2601.11219v3 Announce Type: replace-cross Abstract: Federated learning (FL) for large language models (LLMs) has attracted increasing attention as a privacy-preserving approach for adapting models over distributed data, where parameter-efficient methods such as Low-Rank Ada…