Wavelet Fine-Tuning

小波微调 (WaveFT) 为 AI 模型提供先进的参数效率

研究人员推出了一种新颖的参数高效微调 (PEFT) 方法——小波微调 (WaveFT)，该方法利用了权重矩阵小波域中的稀疏性。与 LoRA 等现有方法不同，WaveFT 通过学习稀疏更新，提供了对可训练参数更精细的控制，这可以实现高秩更新并避免 LoRA 的子空间限制。对视觉和语言任务的理论分析和实验结果证明了 WaveFT 的有效性，在视觉任务的 PEFT 方法中取得了最先进的性能。WaveFT 方法已集成到 Hugging Fac…