实体
LLMRouter
LLMRouter
PulseAugur coverage of LLMRouter — every cluster mentioning LLMRouter across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
3 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
LLMRouter库通过将查询路由到合适的模型来优化AI成本
LLMRouter是伊利诺伊大学厄巴纳-香槟分校开发的一个开源库，它解决了使用大型语言模型的高昂推理成本问题。它根据复杂性智能地将用户查询路由到最合适的模型，而不是默认使用最昂贵的选项。该库提供了超过16种路由方法和五类路由策略，旨在为频繁使用的AI用户优化成本并可能提高响应时间。
-
统一基础设施和实用网关简化 LLM 路由
研究人员开发了 LLMRouter，这是一个用于构建、评估和部署 LLM 路由器的统一基础设施。该系统通过提出 LLM 路由的标准化表述，解决了为各种查询和预算限制选择最佳大型语言模型的挑战。配套的基准测试 xRouteBench 涵盖了多种路由任务，实证结果表明学习型路由器优于固定模型基线。此外，还提出了一种实用的 LLM 路由方法，主张使用统一网关，通过管理共享的速率限制和回退策略，简化 OpenAI、Claude 和 Gemin…
-
新的LLM路由技术提高效率和准确性 · 跟踪4个来源
研究人员开发了新的LLM路由方法，专注于提高效率和准确性。一种名为“LLM Router”的方法利用内部模型激活和“编码器-目标解耦”技术来预测模型性能，实现了显著的成本节约，并缩小了独立模型与神谕模型之间的差距。另一篇论文介绍了“多LLM路由的选择-有效诊断”，它解决了现有神谕路由方法的缺陷，并为路由器的性能提供了可认证的置信区间。此外，还开发了一个名为“LLMRouter”的统一基础设施，提供了一个基准（xRouteBench）和…