PulseAugur
中
实时 17:06:35
English(EN) MTRouter: Cost-Aware Multi-Turn LLM Routing with History-Model Joint Embeddings

MTRouter 在 ScienceWorld 上将 LLM 成本降低 58%，在 HLE 上降低 43%

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了 MTRouter，一个旨在优化与大型语言模型多轮交互成本的新系统。通过联合嵌入交互历史和候选模型，MTRouter 学会预测模型效用并在预算内为多轮交互中的每个轮次选择最具成本效益的模型。实验表明，与 GPT-5 相比，在 ScienceWorld 上实现了 58.7% 的节省，在 Humanity's Last Exam 上实现了 43.4% 的节省，同时保持了具有竞争力的性能。 AI

影响 优化多轮任务的 LLM 推理成本，可能在预算限制内实现更复杂的应用。

排序理由 这是一篇详细介绍优化 LLM 推理成本新方法的学术论文。

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

MTRouter 在 ScienceWorld 上将 LLM 成本降低 58%，在 HLE 上降低 43%

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Yiqun Zhang, Hao Li, Zihan Wang, Shi Feng, Xiaocui Yang, Daling Wang, Bo Zhang, Lei Bai, Shuyue Hu ·

    MTRouter: Cost-Aware Multi-Turn LLM Routing with History-Model Joint Embeddings

    arXiv:2604.23530v1 Announce Type: new Abstract: Multi-turn, long-horizon tasks are increasingly common for large language models (LLMs), but solving them typically requires many sequential model invocations, accumulating substantial inference costs. Here, we study cost-aware mult…

相关实体

相关话题