SUB-PLAY

新的SUB-PLAY攻击针对部分可观察的多智能体AI系统

研究人员开发了一种新颖的黑盒攻击方法，称为SUB-PLAY，即使在对目标系统进行部分观察的情况下，也能生成针对多智能体强化学习（MARL）系统的对抗性策略。该方法旨在利用MARL部署中的漏洞，这些部署越来越多地用于无人机群和机器人操作等应用。研究证明了SUB-PLAY在各种部分可观察性约束下的有效性，并提出了潜在的防御机制来缓解这些安全威胁。