研究人员开发了一个新框架,用于在部署预算限制下优化基础模型的预测。该框架学习查询哪些模型以及如何将它们的输与现有特征结合,以在管理查询成本的同时提高任务特定准确性。提出了两种方法:一种是为每个输入查询相同的模型,另一种是使用Q学习在不同输入之间变化模型以确定何时停止查询。与现有方法相比,这两种方法在模拟和实际应用中都表现出优越的性能。 AI
影响 该框架有可能通过在预算限制内优化预测成本,从而更有效地部署基础模型。
排序理由 该集群包含一篇详细介绍基础模型新框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →