SemPurify

SemPurify框架提供语义感知的AI后门攻击防御

研究人员推出SemPurify，一个旨在防御机器学习模型后门攻击的新型框架。与现有方法可能通过转换降低图像质量和语义信息不同，SemPurify利用由多级语义嵌入和图像标签引导的文本到图像模型。该方法旨在恢复转换后的样本，同时保留关键的视觉和语义细节，从而维持下游任务的效用。在分类、CLIP风格编码器和生成模型等各种后门场景中的实验表明，SemPurify在移除后门的同时保持了语义完整性。