研究人员开发了新的算法,用于在反馈有限的在线环境中,对大型语言模型(LLM)专家进行自适应路由。该方法被表述为一个多臂老虎机问题,旨在通过策略性地选择和观察奖励来最小化遗憾,从而最大化响应质量。实验表明,即使在反馈预算有限的情况下,这些策略也能有效地学习高质量的路由,覆盖各种LLM。 AI
影响 这项研究通过在最少反馈的情况下优化提示分发,有望实现更高效、更具成本效益的大型语言模型使用。
排序理由 该集群包含一篇在arXiv上发表的研究论文,详细介绍了LLM提示路由的新算法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →