新的GRM框架增强了音频LLM越狱攻击的隐蔽性

研究人员开发了一个名为GRM（Gradient-Ratio Masking，梯度比率掩码）的新框架，以提高音频大型语言模型（ALLMs）越狱攻击的隐蔽性。该方法选择性地对音频输入的特定频段应用扰动，而不是整个音频频谱，以引发不安全响应。实验表明，GRM在显著降低模型在正常任务上效用退化的同时，实现了高越狱成功率，使得攻击不那么显眼。 AI

影响 这项研究强调了一种绕过音频AI安全机制的新方法，可能影响更强大的安全措施的开发。

排序理由 该集群包含一篇详细介绍AI模型新攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• ALLMs
• alphaXiv
• arXiv
• Audio Large Language Models
• CatalyzeX
• CORE Recommender
• DagsHub
• Gotit.pub
• GRM
• Hugging Face
• ScienceCast
• Yunqiang Wang

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →