Chenyu Zhang

新方法可检测并抑制 Diffusion Transformer 中的风险内容

研究人员开发了一种新颖的、无需训练的方法来检测和抑制 Diffusion Transformers（DiTs，一种文本到图像模型）生成的风险内容。该技术识别模型注意力头中的概念，这些注意力头对特定的语义概念表现出敏感性。通过量化 token 敏感性并采用基于动量的策略，该方法自适应地抑制与风险 token 相关的注意力 logits，从而有效减轻有害、色情或侵犯版权图像的生成，同时保持视觉质量和对抗提示的鲁棒性。