FloodLlama-MI5

新模型使用微调的视觉语言方法实现厘米级洪水深度估计

研究人员开发了微调视觉语言模型以实现厘米级精度洪水深度估计的新方法。该研究介绍了完全微调的模型 FloodLlama-Dense，以及两个稀疏变体 FloodLlama-MI5 和 FloodLlama-MI6，它们通过机制可解释性识别，选择性地微调特定的交叉注意力层。这些稀疏模型在可训练参数方面实现了显著减少，同时精度损失极小，在真实世界数据上表现优于现有基准。