研究人员开发了一种名为LR-Merge的新方法,用于预测和纠正组合多个微调AI模型时的干扰。该技术使用在接收模型上评估的一阶方向导数来预测干扰并识别可能导致预测翻转的示例。LR-Merge在没有反向传播的情况下优化合并系数,改进了各种基础合并方法,并实现了快速的系数和任务子集查询。 AI
影响 这项研究可能简化专业AI模型的组合过程,有望带来更高效、更强大的AI系统。
排序理由 这是一篇详细介绍模型合并新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →