UpgradeBench

新基准测试评估跨模型版本的LLM专家升级

研究人员开发了UpgradeBench，一个旨在评估微调语言模型升级过程的新基准测试。该基准测试跟踪了Qwen的四个连续版本，并包含OLMo检查点，以评估特定任务适配器在不同模型版本之间的迁移效果。它研究了新基础模型是否能提高专家性能，现有专业化资产是否可以移植，以及再训练策略的有效性。研究结果表明，升级带来的好处因任务和发布间隔而异，一些适配器会迅速失效，而另一些则能保持更长时间的稳定性。