研究人员开发了两种新方法来提高由大型语言模型驱动的多智能体系统中的通信效率。SelectKV 选择性地通信 KV 状态,在保持多个基准测试准确性的同时减少了传输的数据量。HyLaMAS 通过实现 KV 缓存和循环状态的通信,将潜在协作扩展到混合线性注意力模型。这些方法旨在克服这些系统中的通信瓶颈,从而显著减少解码输出的 token 数量并加快处理速度。 AI
影响 这些方法可以显著降低复杂多智能体 AI 系统的计算成本并提高其速度。
排序理由 详细介绍大型语言模型多智能体系统新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.MA (Multiagent) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →