TIES-Merging

新的JNSP方法在无数据情况下合并AI模型，提高准确性

研究人员开发了一种名为联合零空间投影（JNSP）的新方法，用于合并独立微调的AI模型，而无需任何数据或梯度步骤。该技术将模型合并视为子空间干扰问题，识别并移除位于其他任务子空间中的任务向量分量。JNSP是一个闭式、与顺序无关的过程，在CLIP图像分类任务上的准确性显著高于现有的TIES-Merging和Task Arithmetic等方法，比最强的基线高出11个多点。