研究人员开发了一个新的框架,用于无监督自适应预训练的视觉-语言模型(PVLMs),以在目标域上提高性能,而无需标记数据。该方法结合了渐进子集选择(使用预测边际构建平衡的伪标记集)和级联一致性学习。这种方法利用时间平滑的教师预测来指导学生模型训练,同时过滤不确定的标签,并且仅更新视觉编码器和类别原型的归一化参数。使用CLIP和SigLIP骨干网络的实验证明了在各种基准测试中性能的一致提高。 AI
影响 这项研究提供了一种在无需标记数据的情况下增强新领域中视觉-语言模型性能的方法,可能拓宽其应用范围。
排序理由 该集群包含一篇详细介绍无监督模型自适应新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →