ObjectNet

新攻击框架以理论保证为目标，攻击AI模型

研究人员开发了一个新的AI模型对抗性攻击框架，专注于仅能访问最高预测的硬标签黑盒场景。他们的方法引入了一种新颖的零查询初始化策略和一种模式驱动优化算法，该算法基于将现有方法与梯度符号近似联系起来的理论分析。与各种数据集和模型类型（包括商业API和CLIP模型）上的最先进攻击相比，该方法展示了更高的效率和成功率，同时还显示出对数据损坏和分割等专业任务的鲁棒性。