Mohamed Elmahallawy

新型黑盒防御TRIM可检测并移除AI后门触发器

研究人员开发了TRIM，一种新颖的黑盒防御系统，旨在推理过程中检测和移除深度神经网络（DNN）中的后门触发器。与先前需要访问模型内部或训练数据的方法不同，TRIM仅通过黑盒访问进行操作。它识别负责异常行为的图像区域，使用修复和基于扩散的重建来净化这些被操纵的区域，并保留良性内容。TRIM的有效性已在各种数据集和触发器类型中得到证明，显著降低了攻击成功率，同时保持了高清洁准确率。