研究人员推出CoMerge,一个通过参数合并优化多任务大型语言模型的新框架。该方法将合并重构为偏好优化问题,利用朴素合并技术的缺陷作为负样本,在无需外部标注的情况下优化合并系数。实验表明,CoMerge在MergeBench基准测试中表现优越,并能在Llama 3.1 8B-Instruct等模型上增强指令遵循和安全性等特定能力,同时优化最少数量的系数。 AI
影响 这项研究通过优化现有模型,为创建多任务LLM提供了一种更有效的方法,有望减少广泛重新训练的需求并提高特定任务的性能。
排序理由 该集群描述了一篇详细介绍模型合并新方法的最新研究论文。
在 Hugging Face Daily Papers 阅读 →
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- Llama 3.1 8B-Instruct
- MergeBench
- ScienceCast
- task arithmetic
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →