实体
Aurelio
Aurelio
PulseAugur coverage of Aurelio — every cluster mentioning Aurelio across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究评估了跨基准的开源 AI 模型路由器
一篇新发布的 arXiv 论文评估了四个开源模型路由器，这些系统在代理框架中负责模型选择。该研究引入了一个通用的测量协议，以在四个基准上比较这些路由器：RouterBench、BFCL v4、tau2-bench 和 WebArena。研究结果表明，三个被评估的路由器一致地将任务分配给相同的模型层级，而 vLLM Semantic Router 根据提示内容显示出更多变化，但在任何基准上均未达到最高的成功率。研究表明，观察到的性能提升…
-
SynaptoRoute 通过局部语义处理优化 AI 代理路由
一种名为 SynaptoRoute 的新型语义路由系统已被开发出来，以解决基于 LLM 的 AI 代理路由中的瓶颈问题。该系统旨在通过使用向量嵌入和余弦相似度在本地执行路由来降低延迟和代币成本。SynaptoRoute 通过动态批处理、用于更新期间高效内存管理的惰性编译以及用于提高准确性的基于 ML 的阈值优化器来优化性能。