普渡大学和普林斯顿大学的研究人员开发了一种名为 CARGO 的新方法,该方法可以在不需要任何训练数据的情况下将查询路由到大型语言模型 (LLM)。这种方法利用模型的自我一致性作为确定最佳路由策略的信号。发表在 arXiv 预印本上的研究结果表明,CARGO 的性能优于传统的经过训练的 LLM 路由器。 AI
影响 这种新颖的 LLM 查询路由方法可以减少对大量训练数据的需求,从而可能降低 LLM 部署的成本并提高效率。
排序理由 该集群报道了一篇详细介绍 LLM 查询路由新方法的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →