研究人员开发了一种名为循环去噪的新技术，用于探测图像扩散模型中记忆的训练数据。该方法涉及在受控噪声水平下重复应用前向和后向扩散过程，从而揭示模型中的“超稳定记忆”。这些记忆即使在严重损坏后也能再生，并能持续数千个周期，通常对应于特定的训练图像，如图库照片或水印。该攻击仅需要采样器级别的控制，不需要梯度、权重检查或对训练数据的先验知识，展示了其在隐私和版权审计方面的潜力。 AI
影响 这项研究提供了一种探测扩散模型中记忆数据的新颖方法，对隐私和版权合规具有重要意义。
排序理由 该集群包含一篇详细介绍新研究方法及其发现的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2606.24000v1 Announce Type: new Abstract: We introduce cyclic denoising -- repeated forward and reverse diffusion at controlled noise amplitudes -- as an extraction attack for image diffusion models. Inspired by random organization in disordered solids, cyclic denoising exp…
We introduce cyclic denoising -- repeated forward and reverse diffusion at controlled noise amplitudes -- as an extraction attack for image diffusion models. Inspired by random organization in disordered solids, cyclic denoising exposes regions of the learned distribution that ar…