Tobias Braun

新型后门绕过AI概念擦除，暴露有害内容

研究人员发现了一种针对文本到图像扩散模型的概念擦除技术（concept erasure techniques）的重大漏洞，称为擦除规避后门（Erasure Evasion Backdoor, EEB）。该后门允许攻击者嵌入一个与待删除概念相关联的隐藏触发器，从而确保即使在尝试擦除后，仍能生成与该概念相关的有害内容。EEB被证明对多种最先进的擦除方法都有效，在生成不受欢迎的输出方面取得了很高的成功率，包括名人肖像和露骨图像。