一篇新的研究论文介绍了一种名为STAR(Strategy-proof Topology-aware Agent Routing)的系统,该系统旨在优化基于图的代理工作流中任务到大型语言模型(LLM)提供商的路由。STAR的目标是通过策略性地将任务分配给更便宜的提供商来最小化成本,同时考虑如果任务在提供商之间切换时重新处理累积上下文的开销。该系统被构建为一个采购拍卖,确保提供商的真实报告,并最小化用户的预期总支付。 AI
影响 在复杂工作流中优化LLM提供商选择,以提高成本效益和确保真实性。
排序理由 该集群包含一篇详细介绍LLM路由新系统的研究论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →