Dhairysheel Durgule

新研究质疑PGD衡量AI模型鲁棒性的能力

一篇新近发表在arXiv上的研究论文，调查了投影梯度下降（PGD）在评估卷积神经网络对抗鲁棒性方面的有效性。研究人员发现，尽管PGD被广泛使用，但其标准的最终对抗准确率指标并不能完全捕捉模型在整个攻击过程中的行为。研究表明，诸如损失演变和梯度对齐等轨迹级别诊断可以描述优化几何，但不能独立衡量鲁棒性。该研究建议，“失败步数”分布能更清晰地区分鲁棒性模式，表明轨迹分析应作为标准鲁棒性测量的补充而非替代。