新基准测试评估跨模型版本的LLM专家升级

研究人员开发了UpgradeBench，一个旨在评估微调语言模型升级过程的新基准测试。该基准测试跟踪了Qwen的四个连续版本，并包含OLMo检查点，以评估特定任务适配器在不同模型版本之间的迁移效果。它研究了新基础模型是否能提高专家性能，现有专业化资产是否可以移植，以及再训练策略的有效性。研究结果表明，升级带来的好处因任务和发布间隔而异，一些适配器会迅速失效，而另一些则能保持更长时间的稳定性。 AI

影响 提供了一个评估专业化LLM升级成本效益的框架，为模型维护和资源分配决策提供信息。

排序理由 该项目描述了一个用于评估LLM升级的新基准测试，属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• arXiv
• DagsHub
• Hugging Face
• OLMo
• Qwen
• UpgradeBench

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →