PulseAugur
实时 09:29:33
实体 Federated Low-Rank Adaptation

Federated Low-Rank Adaptation

PulseAugur coverage of Federated Low-Rank Adaptation — every cluster mentioning Federated Low-Rank Adaptation across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_196110 ·

    新的SeFoRA算法增强了大型神经网络的联邦微调

    研究人员推出了一种名为SeFoRA的新算法,该算法专为使用低秩适配(LoRA)的大型神经网络的联邦参数高效微调而设计。SeFoRA通过允许在联邦器上直接聚合本地更新的线性草图,解决了客户端使用不同LoRA秩带来的挑战。这种方法减轻了双线性不匹配,并允许在更小的子空间中进行聚合。一个秩同质版本SeFoRA-Ho进一步简化了适配器聚合。理论分析表明其收敛于一个稳定点,并且在RoBERTa-Large在GLUE数据集上微调的实验表明,SeF…