V-GIFT

V-GIFT 通过视觉基础的自监督学习增强 MLLM

研究人员开发了 V-GIFT，一种增强多模态大语言模型（MLLM）视觉感知能力的新方法。该方法将自监督学习任务（重新表述为自然语言指令）整合到现有的指令调优过程中。通过要求模型依赖视觉证据来完成旋转预测或颜色匹配等任务，V-GIFT 可以在无需架构更改或人工标注的情况下提高视觉中心评估的性能。该方法通过整合少量视觉基础指令，持续提升各种模型和训练方案的性能。