研究人员提出了一个名为DARS（分布感知路由监督）的新框架，以改进大型语言模型（LLM）的路由方式。当前方法依赖LLM的单一响应来训练路由器，但由于LLM生成的随机性，这可能并不可靠。DARS通过考虑模型行为的分布来解决这个问题，同时考虑查询表述和模型输出的变化，以创建更鲁棒的监督信号。实验表明，与传统的单次方法相比，这种分布方法能带来更稳定有效的路由策略。 AI
影响 通过超越单一响应观察来捕捉模型能力分布，从而提高LLM路由的可靠性。
排序理由 这是一篇提出LLM路由新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →