研究人员开发了一种名为ReMA的新方法,通过迭代优化恶意响应来识别和利用多智能体系统中的漏洞。为应对这些攻击,他们还提出了一种名为SecMAS的安全聚合规则,该规则利用智能体响应之间的语义相似性来确保一致性和安全性。评估表明,SecMAS在保持与现有聚合规则相当的效用的同时,能有效防御ReMA及其自适应变体。 AI
影响 为多智能体AI系统引入了新的安全漏洞和防御措施,可能影响其在关键应用中的部署。
排序理由 详细介绍多智能体系统新攻击和防御机制的学术论文。[lever_c_research降级:ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →