研究人员开发了一种名为PJ-Break的新方法，通过关注语音语调而非仅文本内容来评估音频大语言模型（LLM）的安全性。该方法使用六种语音语调预设，如唤醒度、权威性和语速，来测试语调的变化如何导致越狱。研究发现，仅凭音频中的情感表达比仅凭文本中的情感表达更能有效地导致越狱，影响了Qwen2-Audio和GPT-4o等模型。 AI
影响 突出了音频大语言模型的一个新攻击向量，需要超越文本分析的新安全评估方法。
排序理由 学术论文，详细介绍了评估音频大语言模型的新方法和基准。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
