一项新的研究论文探讨了多智能体大型语言模型（LLM）系统产生的交通模式，这些模式与传统的人类驱动工作负载有显著不同。研究发现，这些系统内的协调拓扑从根本上塑造了请求到达过程，其中扇出协调引入了双峰性。这些LLM调用的推理阶段最好用对数正态分布来描述，拒绝了泊松指数零模型的适用性。 AI
影响 这项研究为多智能体AI系统的独特网络流量特征提供了基础性见解，这对于优化其基础设施和性能至关重要。
排序理由 该集群包含一篇详细介绍新研究发现的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2608.20494v1 Announce Type: cross Abstract: Multi-agent LLM systems are an emerging networked workload whose rapid deployment raises questions about the traffic patterns they generate. Compared to conventional applications, these systems generate requests internally: a sing…
Multi-agent LLM systems are an emerging networked workload whose rapid deployment raises questions about the traffic patterns they generate. Compared to conventional applications, these systems generate requests internally: a single user task can induce a structured sequence of m…