PulseAugur
中
实时 09:18:23
English(EN) From Inaudible Inputs to Model Failures: Low-Frequency Safety Risks in LALMs

新研究揭示听不见的音频输入对大型音频语言模型构成安全风险

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员发现大型音频语言模型（LALMs）存在一种新的安全漏洞，与听不见的低频音频输入有关。这些人类无法察觉的输入会显著降低模型性能，在某些任务中准确率最高可下降67个百分点。为解决此问题，提出了一种名为分布查询防护（DRG）的新检测方法，旨在识别这些低频偏移并触发对音频输入的重新评估，将受攻击的准确率提高到46.1%。这项研究突显了音频理解模型中一个被忽视的风险，并为构建更鲁棒的系统指明了方向。 AI

影响 突显了大型语言模型的一个新攻击向量，可能影响基于音频的AI系统的鲁棒性和安全性。

排序理由 学术论文，详细介绍了大型语言模型的一个新安全风险和缓解方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新研究揭示听不见的音频输入对大型音频语言模型构成安全风险

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Yuanhe Zhang, Weiliu Wang, Jie Ren, Liang Lin, Zhenhong Zhou, Haoran Gao, Kun Wang, Chen Li, Li Sun, Sen Su ·

    从听不清的输入到模型故障：低频语言模型中的低频安全风险

    arXiv:2608.09158v1 Announce Type: cross Abstract: Large audio-language models (LALMs) have demonstrated strong capabilities in understanding diverse audio inputs. This diversity includes low-frequency signals that are inaudible to humans but can still enter the model and influenc…

相关实体

相关话题