实体
xRouteBench
xRouteBench
PulseAugur coverage of xRouteBench — every cluster mentioning xRouteBench across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
统一基础设施和实用网关简化 LLM 路由
研究人员开发了 LLMRouter，这是一个用于构建、评估和部署 LLM 路由器的统一基础设施。该系统通过提出 LLM 路由的标准化表述，解决了为各种查询和预算限制选择最佳大型语言模型的挑战。配套的基准测试 xRouteBench 涵盖了多种路由任务，实证结果表明学习型路由器优于固定模型基线。此外，还提出了一种实用的 LLM 路由方法，主张使用统一网关，通过管理共享的速率限制和回退策略，简化 OpenAI、Claude 和 Gemin…
-
新的LLM路由技术提高效率和准确性 · 跟踪4个来源
研究人员开发了新的LLM路由方法，专注于提高效率和准确性。一种名为“LLM Router”的方法利用内部模型激活和“编码器-目标解耦”技术来预测模型性能，实现了显著的成本节约，并缩小了独立模型与神谕模型之间的差距。另一篇论文介绍了“多LLM路由的选择-有效诊断”，它解决了现有神谕路由方法的缺陷，并为路由器的性能提供了可认证的置信区间。此外，还开发了一个名为“LLMRouter”的统一基础设施，提供了一个基准（xRouteBench）和…