一篇新论文探讨了在大型语言模型系统中将查询高效路由到不同模型所面临的挑战。该研究提出了一种受限的条件模型路由方法，旨在平衡可靠性与计算节省。这种方法表明，条件化的程度对于实现无分布可靠性以及潜在的计算优势至关重要。 AI
影响 这项研究通过优化查询处理方式，有望实现更高效、更具成本效益的大型语言模型部署。
排序理由 该集群包含一篇在arXiv上发表的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
arXiv:2512.03057v2 Announce Type: replace Abstract: We study distribution-free risk control for model routing, motivated by large language model reasoning. We formalize pointwise conditional efficiency under a probably approximately correct guarantee and show that it forces a nea…