PulseAugur
实时 09:16:26
English(EN) SAFE-Merge: Data-Free Continual Model Merging with General Knowledge Preservation

SAFE-Merge框架在持续模型合并中保留通用知识

研究人员推出了一种名为SAFE-Merge的新型无需数据框架,用于持续合并专业化模型,同时保留通用知识和先前获取的任务。该方法采用风险感知稀疏掩码来识别对通用知识安全的参数更新,然后使用掩码低秩恢复来保留任务特定信息,而不改变掩码参数。这种方法旨在防止现有合并技术可能出现的泛化能力侵蚀。在视觉和语言基准上的评估表明,SAFE-Merge在H分数和准确性方面始终优于其他方法,尤其是在扩展任务序列上。 AI

影响 这项研究可能带来更强大、更高效的AI模型更新和组合方法,而无需大量数据集。

排序理由 该集群包含一篇详细介绍模型合并新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

SAFE-Merge框架在持续模型合并中保留通用知识

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Zihuan Qiu, Zhiyang Liao, Chiyuan He, Yi Xu, Fanman Meng, Linfeng Xu, Qingbo Wu, Hongliang Li ·

    SAFE-Merge: Data-Free Continual Model Merging with General Knowledge Preservation

    arXiv:2608.01184v1 Announce Type: new Abstract: Data-free continual model merging must incorporate a stream of specialized models while retaining both pretrained general knowledge and previously acquired tasks, without access to task data. Existing methods mainly merge task updat…