PulseAugur
中
实时 01:59:02
English(EN) Adaptive Selection of LoRA Components in Privacy-Preserving Federated Learning

新的AS-LoRA方法提高了联邦学习的隐私性

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了AS-LoRA，一种用于隐私保护联邦学习中LoRA组件自适应选择的新型框架。该方法通过允许每一层独立选择其活动组件并在通信轮次中调整这些选择来解决此类设置中常见的聚合错误。AS-LoRA在不增加隐私成本的情况下，理论上提高了收敛速度和准确性，并在GLUE和SQuAD等基准测试中取得了显著的进步。 AI

影响 在联邦学习环境中引入了一种更有效、更准确的微调大型模型的方法，有望提高隐私性和性能。

排序理由 这是一篇详细介绍联邦学习新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的AS-LoRA方法提高了联邦学习的隐私性

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Myoungjun Kim, Sangwoo Park, Yoseob Han, Jin-Hyun Ahn ·

    Adaptive Selection of LoRA Components in Privacy-Preserving Federated Learning

    arXiv:2605.05769v1 Announce Type: new Abstract: Differentially private federated fine-tuning of large models with LoRA suffers from aggregation error caused by LoRA's multiplicative structure, which is further amplified by DP noise and degrades both stability and accuracy. Existi…

相关实体

相关话题