实体 SAFE-Merge

SAFE-Merge

PulseAugur coverage of SAFE-Merge — every cluster mentioning SAFE-Merge across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_180645 · Aug 4 · 04:00

SAFE-Merge框架在持续模型合并中保留通用知识

研究人员推出了一种名为SAFE-Merge的新型无需数据框架，用于持续合并专业化模型，同时保留通用知识和先前获取的任务。该方法采用风险感知稀疏掩码来识别对通用知识安全的参数更新，然后使用掩码低秩恢复来保留任务特定信息，而不改变掩码参数。这种方法旨在防止现有合并技术可能出现的泛化能力侵蚀。在视觉和语言基准上的评估表明，SAFE-Merge在H分数和准确性方面始终优于其他方法，尤其是在扩展任务序列上。