Stable Diffusion v1.4

新的循环去噪攻击揭示了扩散模型中的“超稳定记忆”

研究人员开发了一种名为循环去噪的新技术，用于探测图像扩散模型中记忆的训练数据。该方法涉及在受控噪声水平下重复应用前向和后向扩散过程，从而揭示模型中的“超稳定记忆”。这些记忆即使在严重损坏后也能再生，并能持续数千个周期，通常对应于特定的训练图像，如图库照片或水印。该攻击仅需要采样器级别的控制，不需要梯度、权重检查或对训练数据的先验知识，展示了其在隐私和版权审计方面的潜力。