研究人员开发了一个名为BOFA(Bridge-layer Orthogonal Low-Rank Fusion for Adaptation)的新框架,以改进像CLIP这样的视觉语言模型的类增量学习(CIL)。BOFA仅修改CLIP现有的跨模态桥层,避免了额外的参数或增加推理成本。它使用正交低秩融合将参数更新约束在一个子空间内,以防止遗忘先前学习的任务,从而无需数据重放。该框架还包含一个跨模态混合原型以提高分类性能。 AI
影响 这项研究可能为视觉语言模型带来更有效和高效的持续学习系统,降低计算开销并提高知识保留率。
排序理由 该集群描述了一篇详细介绍特定机器学习任务新颖框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →