cleverhans

OpenAI及研究人员揭示AI在对抗性攻击下的脆弱性

OpenAI的研究人员正在探索神经网络中对抗鲁棒性在不同类型扰动间的迁移性。他们的研究结果表明，针对一种扰动类型的鲁棒性并不总是能保证对其他扰动类型的鲁棒性，有时甚至可能适得其反。他们建议使用多种类型的扰动和不同大小的扰动来评估对抗性防御，以确保全面的安全性。此外，OpenAI正在将对抗性样本作为一个具体的AI安全问题进行研究，并指出它们可能导致严重问题，例如欺骗自动驾驶汽车。