PulseAugur
实时 03:58:56

新路由器通过分解不确定性优化机器学习系统

研究人员开发了一种新颖的、感知不确定性的路由器,旨在通过智能地决定何时使用低成本模型与更昂贵的“神谕”(如大型语言模型或人类专家)来优化机器学习系统。该方法将总不确定性分解为不可约和可约分量,从而能够在不重新训练的情况下动态适应各种损失函数和成本参数。当不确定性较低时,系统会使用较弱的模型进行预测;当可约不确定性较高时,则路由到“神谕”;当不可约不确定性较高时,则放弃处理,并提供关于遗憾的理论保证。 AI

影响 通过智能路由查询,引入了一种降低机器学习系统计算成本的方法,有可能提高复杂任务的效率。

排序理由 该集群包含一篇详细介绍机器学习系统新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新路由器通过分解不确定性优化机器学习系统

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Aravind Gollakota ·

    通过不确定性分解实现灵活路由

    A key strategy for balancing performance and cost in modern machine learning systems is to dynamically route queries to either a low-cost model or a more expensive oracle (such as a large pretrained model or human expert), an approach known as model routing. In this work we prese…