CopRoute

CopRoute：语言模型的依赖感知路由

研究人员推出了一种新颖的语言模型路由方法 CopRoute，该方法考虑了模型故障之间的依赖关系。与以往将模型视为孤立的方法不同，CopRoute 考虑了模型由于共享训练数据或架构而在相似查询上可能出现的故障。这种依赖感知策略旨在提高查询覆盖率，同时控制所有模型都失败的风险。在 RouterBench 和 RouterEval 上的评估中，CopRoute 在找到正确答案所需的调用次数方面显示出显著减少，性能优于最先进的方法。