QuSecure

新的“Phantom Transfer”攻击绕过了AI数据投毒防御

研究人员开发了一种新颖的数据投毒攻击，称为“Phantom Transfer”，即使在已知数据损坏的确切方法的情况下，也能巧妙地操纵AI模型。这种攻击被设计成具有弹性，能够绕过各种数据级防御，并且无论模型架构或目标如何都保持有效。研究结果突显了当前防御的局限性，并表明需要更强大的方法，如白盒审计和训练后模型分析来对抗复杂的数据投毒。