研究人员开发了一种名为CodecAttack的新型对抗性攻击，该攻击可以绕过音频大型语言模型（LLM）中的压缩防御。与先前直接扰动音频波形的方法不同，CodecAttack在神经音频编解码器的潜在空间中优化扰动。该技术被证明非常有效，在Opus压缩上实现了平均85.5%的攻击成功率，并证明了其对MP3和AAC-LC等其他编解码器的可迁移性。 AI
影响 证明有损压缩并非对抗性音频的可靠防御手段，对已部署的音频LLM系统构成实际威胁。
排序理由 详细介绍攻击AI模型新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →