研究人员开发了STEPGATE,一个新颖的框架,旨在通过智能地将具有挑战性的任务升级到更强大的模型来提高小型语言模型(SLM)代理的性能。这个面向不确定性的系统评估每个本地SLM操作,并选择性地路由困难的步骤,旨在减少对基于云的推理的依赖并降低延迟。在评估中,使用STEPGATE的Qwen2.5-1.5B/7B组合与仅本地或随机升级方法相比,在较低的升级百分比下实现了显著更高的任务成功率。该框架还在多轮场景中展示了改进的轨迹和操作成功率,同时最大限度地减少了云操作。 AI
影响 通过减少对云的依赖和提高任务成功率来提高SLM代理的效率。
排序理由 研究论文,详细介绍了一个用于LLM代理的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.MA (Multiagent) 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →