Matías Pizarro

新方法提升ASR模型对抗攻击防御能力

研究人员开发了一种名为Precision-Varying Prediction (PVP) 的新方法，以增强自动语音识别 (ASR) 系统的对抗鲁棒性。通过在推理过程中随机改变ASR模型的精度，PVP显著降低了对抗性攻击的成功率。该技术还可以通过对不同精度下运行的模型输出差异进行分类来检测对抗性样本。当与现有的基于不确定性的防御相结合时，PVP在针对各种ASR模型、语言和攻击类型的自适应威胁方面表现出更强的安全性。