实体
RLCascadeRouter
RLCascadeRouter
PulseAugur coverage of RLCascadeRouter — every cluster mentioning RLCascadeRouter across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的COMPASS代理路由器优化LLM选择以降低成本和提高准确性
研究人员开发了COMPASS，一种新颖的代理LLM路由器，旨在优化模型选择以降低成本和提高准确性。与需要频繁更新的专用路由器不同，COMPASS使用LLM遵循路由配方，通过工具收集性能数据，甚至在选择模型之前检查候选答案。在LLMRouterBench和DeepSWE基准上的评估表明，与现有的路由方法相比，COMPASS以更低的成本实现了更高的准确性，并且无需重新训练即可适应新模型。
-
RLCascadeRouter 利用强化学习优化 LLM 路由
研究人员开发了 RLCascadeRouter，这是一个新颖的框架，通过将大语言模型（LLM）的查询路由视为马尔可夫决策过程来对其进行优化。这种方法直接优化性能-成本目标，而无需依赖可能导致次优路由决策的独立质量评估器。该系统的级联策略网络模拟了候选互补性和剩余动作值，使其在十个 LLMRouterBench 基准测试和十三种 LLM 上表现优于现有基线。RLCascadeRouter 还展示了在无需重新训练的情况下整合新模型的能力。