Pandora's Bidder

新的AI路由框架在成本和质量之间取得平衡，适用于专业模型

研究人员开发了一个名为Pandora's Router的新框架，用于在异构AI系统之间高效分配查询。该系统解决了在不同AI专家的价值估计成本与潜在的质量和效率提升之间取得平衡的挑战。该框架将这种权衡形式化为一个最优搜索问题，确定何时进行估算细化才具有成本效益。实验表明，Pandora's Router可以匹配详尽估计的质量，同时显著减少昂贵估算器的使用。