Evidential Adversarial Training

新的证据对抗训练提高了人工智能的鲁棒性和不确定性

研究人员推出了一种名为证据对抗训练（EV-AT）的新方法，旨在提高神经网络预测不确定性的鲁棒性和可靠性，特别适用于安全关键型应用。该方法解决了对抗训练提高准确性但损害不确定性估计的常见问题。EV-AT 利用狄利克雷分布来模拟不确定性，并结合了用于干净准确性和可靠不确定性的基于证据的损失，以及匹配干净和对抗性预测的鲁棒证据对齐损失。实验表明，EV-AT 在平衡鲁棒性和不确定性方面优于现有的对抗训练方法。