VirAEs

新AI防御框架可捕获并净化多智能体系统中的感染

研究人员开发了一个名为“前瞻性引导局部净化”（Foresight-Guided Local Purification, FLP）的新框架，用于对抗由大型多模态模型驱动的多智能体系统（MASs）中的传染性越狱攻击。目前的防御措施通常会使智能体响应同质化，这不足以实现真正的恢复。FLP通过让每个智能体模拟未来的交互来跟踪行为演变并消除感染，从而显著降低了感染率。