PulseAugur
中
实时 09:40:07
English(EN) When Agents Go Rogue: Activation-Based Detection of Malicious Behaviors in Multi-Agent Systems

新框架AcMAS可检测基于LLM的多智能体系统中的隐蔽恶意行为

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了AcMAS，一个旨在检测由大型语言模型（LLM）驱动的多智能体系统（MAS）中恶意行为的新框架。与依赖显式交互图和语义明显攻击的现有方法不同，AcMAS分析智能体激活空间内的内部推理状态。这种方法能够检测同步和异步MAS环境中的隐蔽攻击。此外，AcMAS可以帮助恢复受损智能体功能，相比于通常隔离受影响智能体的当前方法有所改进。 AI

影响 为协作式AI系统中的安全漏洞引入了一种新颖的检测方法，可能提高基于LLM的多智能体应用的鲁棒性。

排序理由 学术论文，详细介绍了一个新的AI安全技术框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新框架AcMAS可检测基于LLM的多智能体系统中的隐蔽恶意行为

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Haowen Xu, Xue Tan, Lei Ma, Zhihao Zhang, Chao Wang, Qingze Wang, Ping Chen, Jun Dai, Xiaoyan Sun ·

    When Agents Go Rogue: Activation-Based Detection of Malicious Behaviors in Multi-Agent Systems

    arXiv:2607.06807v1 Announce Type: cross Abstract: While enabling effective collaboration on complex tasks, LLM-based Multi-Agent Systems (MAS) face critical security challenges due to vulnerabilities at the agent and interaction levels. Most existing MAS security defenses are bui…

相关实体

相关话题