研究人员开发了一种名为声纹激活后门(SAB)的新型攻击,该攻击在微调过程中利用语音模型。该方法使用目标说话者的自然声音作为触发器来激活恶意载荷,从而无需攻击者在推理时进行干预。该攻击在Whisper-medium和Parakeet等模型上显示出高成功率,并且当与GPT-4o和Claude模型等大型语言模型代理集成时,成功地操纵它们执行有害操作。 AI
影响 这项研究揭示了一个重大的新攻击向量,可能危及依赖语音界面的AI系统,并可能导致大型语言模型代理执行未经授权的操作。
排序理由 详细介绍语音模型新安全漏洞的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →