研究人员开发了DRAPE,一个新颖的提示学习框架,专为多模态持续指令微调(MCIT)设计。该方法通过以文本指令和视觉特征为条件来生成实例特定的软提示,旨在增强能力而不会发生灾难性遗忘。DRAPE利用零空间梯度投影和基于CLIP的原型路由来管理顺序更新并在推理时选择任务适用的提示。实验表明,DRAPE在MCIT基准测试中优于现有的基于提示和基于LoRA的持续学习基线。 AI
影响 这项研究可能带来更具适应性和鲁棒性的多模态AI系统,使其能够随着时间的推移学习新任务,而不会降低先前任务的性能。
排序理由 该集群包含一篇研究论文,详细介绍了多模态持续指令微调的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →