Continual Model Routing (CMR)

新的CARvE框架增强了不断发展的中心中的AI模型路由

研究人员推出了一种名为持续模型路由（CMR）的新框架，以应对在快速扩展的AI模型中心中管理和更新路由机制所带来的挑战。他们开发了CMRBench，一个包含2000多个模型的超大规模基准测试，以模拟真实的中心增长。所提出的CARvE方法利用对比嵌入，并结合了基于检查点的锚定和结构化重放，在准确性方面，无论是在模型、模型家族还是领域层面，都优于现有的检索、微调和适配器合并方法。