TrueMICL

新训练方法增强视觉语言模型的上下文学习能力

研究人员开发了一种新方法来提高视觉语言模型（VLMs）的视觉上下文学习（vICL）能力。他们的方法称为 MIME，涉及创建一个省略文本捷径的训练数据集，迫使模型仅从视觉演示中学习。这种方法以及一种称为 DTAD 的技术（随机隐藏演示标签）显著提高了包括 Qwen3 VL 8B 和 LLaVA 1.5 13B 在内的各种 VLM 的 vICL 准确性，同时不影响单图像性能。研究结果表明，vICL 数据应成为 VLM 训练的标准组成部分。