研究人员推出了一种名为SAFE-Merge的新型无需数据框架,用于持续合并专业化模型,同时保留通用知识和先前获取的任务。该方法采用风险感知稀疏掩码来识别对通用知识安全的参数更新,然后使用掩码低秩恢复来保留任务特定信息,而不改变掩码参数。这种方法旨在防止现有合并技术可能出现的泛化能力侵蚀。在视觉和语言基准上的评估表明,SAFE-Merge在H分数和准确性方面始终优于其他方法,尤其是在扩展任务序列上。 AI
影响 这项研究可能带来更强大、更高效的AI模型更新和组合方法,而无需大量数据集。
排序理由 该集群包含一篇详细介绍模型合并新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →