研究人员发现了一种针对检索增强文本到音乐生成系统的新漏洞，称为“Mental Damage”。该攻击通过投毒音乐字幕数据库，使用精心设计的条目来微妙地引导AI的输出，而无需更改用户的原始提示。这种双层字幕投毒策略在保留检索锚点的同时，注入了误导性的声学描述符，导致生成的音乐符合攻击者的意图，而不是用户的意图。这项研究突显了依赖外部知识库进行创意生成的AI系统面临的实际完整性风险。 AI
影响 突显了针对创意AI系统的新攻击向量，可能影响AI生成内容的完整性。
排序理由 该集群包含一篇详细介绍AI系统新攻击方法的 ist 研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →