benign traffic

新研究揭示分布式后门可绕过AI智能体安全监控器 · 跟踪2个来源

研究人员在多智能体AI系统中发现了一个关键漏洞，其中分布式后门可以逃避本地监控器的检测。这些后门将有害载荷分散到多个智能体上，使得每一步操作看起来都是良性的。该研究将此形式化为“可观察性边界”，证明依赖本地视图的监控器一旦无法区分碎片与正常流量，就无法检测到这些攻击。实验表明，虽然一些监控器可以高精度地恢复攻击结构（平均AUROC为0.874），但除非能够分析组装后的对象，否则全跟踪系统仍然会失败，这凸显了确保组合式AI系统全局安全所面临的挑战。