研究人员开发了 GhostPrefix,这是一种无需与目标音频同步即可操纵自动语音识别 (ASR) 系统的新颖方法。该技术通过在任何实时语音前添加一个简短、可重用的音频片段,从而实现对 ASR 输出的实时控制。GhostPrefix 利用令牌级和表示级目标,在各种语音环境中保持稳定的对抗效果,并可用于语义引导、转录劫持或转录降级。该攻击在数字和实际(over-the-air)环境中均显示出高成功率,影响了语音助手和 AI 笔记工具等下游应用。 AI
影响 这项研究揭示了 ASR 系统的一个新漏洞,可能影响语音控制的 AI 应用的安全性与可靠性。
排序理由 该集群描述了一篇关于针对 ASR 系统的新型攻击方法的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →