PulseAugur
中
实时 06:47:22
实体 Drift-Aware Sparse Routing

Drift-Aware Sparse Routing

PulseAugur coverage of Drift-Aware Sparse Routing — every cluster mentioning Drift-Aware Sparse Routing across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_231288 ·

    新的路由方法在预算约束下优化多模型大语言模型服务

    研究人员开发了一种名为漂移感知稀疏路由（DRS）的新方法，以在遵守工作负载预算的同时，有效地管理跨多个语言模型的请求。该方法解决了高维提示表示以及由于更新和漂移导致模型性能动态变化的挑战。DRS通过滚动审计窗口估算奖励和资源使用情况，采用悲观奖励和乐观成本估算来做出路由决策。