MusicCaps

新的“Mental Damage”攻击毒化AI音乐生成

研究人员发现了一种针对检索增强文本到音乐生成系统的新漏洞，称为“Mental Damage”。该攻击通过投毒音乐字幕数据库，使用精心设计的条目来微妙地引导AI的输出，而无需更改用户的原始提示。这种双层字幕投毒策略在保留检索锚点的同时，注入了误导性的声学描述符，导致生成的音乐符合攻击者的意图，而不是用户的意图。这项研究突显了依赖外部知识库进行创意生成的AI系统面临的实际完整性风险。