English(EN) Where Do Backdoors Live? A Component-Level Analysis of Backdoor Propagation in Speech Language Models

语音语言模型易受后门攻击

作者 PulseAugur 编辑部 · [1 个来源] · 2026-06-11 04:00

研究人员分析了后门攻击如何在语音语言模型中传播。语音语言模型是包含多个相互连接组件的复杂系统。研究结果表明，后门可以传播到整个流程，使所有任务都面临风险。研究揭示了后门的存在或移除很大程度上取决于模型中被攻击的具体组件。此外，该研究挑战了在共享多任务嵌入中，中毒样本可以轻松与良性样本分离的假设，表明当前的过滤防御可能不足。 AI

影响强调了在语音语言模型等复杂、多组件的AI系统中实施强大安全措施的必要性。

排序理由这是一篇分析语音语言模型漏洞的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Alexandrine Fortier, Thomas Thebaud, Jes\'us Villalba, Najim Dehak, Patrick Cardinal, Peter West · 2026-06-11 04:00

Where Do Backdoors Live? A Component-Level Analysis of Backdoor Propagation in Speech Language Models

arXiv:2510.01157v4 Announce Type: replace Abstract: Speech language models (SLMs) are systems of systems: independent components that unite to achieve a common goal. Despite their heterogeneous nature, SLMs are often studied end-to-end; how information flows through the pipeline …

报道来源 [1]

Where Do Backdoors Live? A Component-Level Analysis of Backdoor Propagation in Speech Language Models

相关实体

相关话题