研究人员调查了情感能力如何在多模态基础模型中涌现,特别是考察了微调是导致扩散性变化还是专业化计算路径。他们对各种设计和任务中的13个情感模型实例的分析显示,一种一致的功能组织方式是,调整前馈网络(FFN)比调整注意力模块更有效。这项研究确定FFN是适应的关键基底,并强调了“gate_proj”是一个在联合优化过程中发展出专门角色的突出路径,这种现象被称为涌现的功能特化。基于这些发现,开发了一种名为门控高效微调(GET)的新方法,该方法在仅使用显著更少的训练参数的情况下,实现了与完整模型微调相当的性能。 AI
影响 这项研究可能带来更高效的情感多模态模型微调方法,提高其性能并降低计算成本。
排序理由 该集群包含一篇详细介绍多模态基础模型新研究发现的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →