VVM-Tuning

新的VVM-Tuning框架增强了大型多模态模型在未见过的视觉模态上的能力

研究人员开发了一个名为VVM-Tuning的新训练框架，以增强大型多模态模型（LMMs）在各种视觉模态上的泛化能力。该方法从RGB场景合成各种视觉外观，以帮助模型将不变的语义信息与特定于模态的特征分离开来。通过在提示中引入模态上下文并使用指令调优，该框架使LMMs能够以零样本方式适应未见的模态。为了评估这种方法，研究团队创建了VVM-Bench，这是一个包含六种真实和合成模态的基准测试，并在几个测试模型上展示了语义感知和模态理解方面的显著改进。