Chih-Duo Hong

新的符号执行测试方法增强了Transformer的鲁棒性分析

研究人员开发了一种新的Transformer分类器符号执行测试方法，该方法使用SHAP估计来根据路径谓词对模型预测的影响来确定其优先级。这种方法使用Python实现，使自注意力语义与可满足性模理论求解器兼容。在CIFAR-10上对紧凑型Transformer模型、ResNet18和VGG16进行的评估表明，在单像素预算和900秒的时间范围内，找到对抗性样本的成功率为60%，显著优于黑盒差分进化基线。