FedSLM

FedSLM框架实现大型基础模型的联邦学习

研究人员提出了FedSLM，一个旨在解决大型基础模型联邦学习中资源不对称挑战的新颖框架。该方法利用奇异值分解（SVD）创建可聚合的压缩客户端模型，使硬件有限的机构能够有效参与。FedSLM采用两阶段协议来同步适配器和融合全秩重建，并结合弱到强诱导步骤，在减轻压缩伪影的同时将知识转移到服务器模型。实验表明，FedSLM在自然语言和视觉-语言任务上均优于现有的联邦基线，客户端模型的GPU内存占用约为完整模型的一半。