BayesWarp

新的BayesWarp框架增强了安全关键领域神经网络的测试

研究人员开发了BayesWarp，一个旨在提高安全关键应用中神经网络可靠性的新测试框架。该方法使用可解释的显著性技术来识别关键输入区域，并采用具有不确定性意识的贝叶斯优化来指导测试过程。在MNIST、CIFAR-10和ImageNet等标准数据集上的评估表明，BayesWarp在发现模型故障方面比现有方法更有效，同时保持了与原始数据的分布和语义相似性，并且使用这些故障案例进行微调可以提高模型性能。