Spiked Covariance Model

新的 SpecTraL 方法改进了视觉 Transformer 的联邦 LoRA

研究人员开发了一种名为 SpecTraL 的新方法，用于使用低秩适配器 (LoRA) 改进视觉 Transformer (ViTs) 的联邦学习。该方法解决了现有策略的局限性，例如 LoRA 因子的一致性平均和连接本地适配器带来的下载成本增加。SpecTraL 在低秩潜在空间中利用 Householder 变换和随机矩阵理论的原理，将全局共识信号与噪声分离，从而无需手动调整即可发现最优的层级全局秩。实验表明，SpecTraL 增强了准…