Sa Samuha

新的SA-SAM方法在高度稀疏性下提高了深度神经网络的鲁棒性

研究人员开发了稀疏性自适应锐度感知最小化（SA-SAM）方法，这是一种提高深度神经网络在常见损坏下的鲁棒性的新方法，尤其是在高稀疏性水平下。SA-SAM根据稀疏性调整扰动半径以维持鲁棒性，并引入了幅度加权Hessian（MWH）进行模型剪枝。在CIFAR和ImageNet损坏数据集上的实验表明，SA-SAM在高稀疏性（80-90%）下实现了比现有方法更好的鲁棒性，同时保持了干净精度。