研究人员开发了一个名为 CIRA-MoE 的新框架,以改进大型语言模型中的多模态持续指令微调 (MCIT)。该方法解决了在不丢失先前获得知识的情况下,使模型适应新的顺序指令数据的挑战。CIRA-MoE 通过选择性地将新专家注入需要额外容量的层,并根据相关性调整专家对单个 token 的贡献,来解决不同任务之间不同的适应性需求。 AI
影响 这项研究可能带来更具适应性和知识性的多模态大型语言模型,从而提高它们在顺序任务上的性能。
排序理由 该集群包含一篇学术论文,详细介绍了多模态持续指令微调的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →