研究人员推出 WaRA,这是一种新颖的、采用小波结构的适配模块,用于参数高效地微调大型预训练视觉模型以进行医学图像分类。该方法在小波域操作,以更好地捕捉医学成像至关重要的局部、多尺度特征,在效率和性能上均优于现有的 PEFT 基线。对于资源极其受限的场景,一个名为 Tiny-WaRA 的变体进一步减少了可训练参数。 AI
影响 这项研究为将大型视觉模型适配到医学成像等专业领域提供了一种更有效、更高效的方法。
排序理由 该项目是一篇研究论文,详细介绍了一种微调视觉模型的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Hugging Face
- LoRA+
- Moein Heidari
- singular value decomposition
- Tiny-WaRA
- WaRA
- Wavelet Low-Rank Adaptation
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →