HybridGrad-AFT

新框架TransferBreaker应对语音识别模型的对抗性攻击

研究人员开发了一个名为TransferBreaker的新框架，以增强微调自动语音识别（ASR）模型的安全性。这些模型通常在黑盒环境中部署，容易受到对抗性攻击，即为基础模型设计的扰动会显著降低微调版本的性能。TransferBreaker集成了多种技术，包括基础对抗性微调和潜在雅可比正则化，以抑制这种对抗性可迁移性。在多种语言和ASR模型上的评估表明，在对抗性条件下，词错误率得到了显著降低。