Temporal Noise Consistency

新框架检测并中和扩散模型中的后门

研究人员开发了一个名为 Backdoor Sentinel 的新框架，用于检测和中和扩散模型中的后门。扩散模型越来越多地用于 AI 生成内容。该方法利用了一个新发现的现象，称为时间噪声一致性 (TNC)，其中后门激活会破坏相邻扩散时间步之间噪声预测的稳定性。TNC-Defense 包括 TNC-Detect，供审计员在不访问模型的情况下识别后门；以及 TNC-Detox，供服务提供商在对质量影响最小的情况下纠正生成路径。