Sacé

新的SACE框架增强了视觉自回归模型的安全性

研究人员推出了一种新颖的概念擦除框架SACE，用于视觉自回归（VAR）模型。该框架通过提出语义奇点公理来解决文本到图像生成中的安全问题，该公理确定了语义概念嵌入的精确尺度。SACE利用增量语义显著性分析来验证该公理，并采用熵正则化擦除目标以及保留损失，以确保在不损害模型完整性或引入视觉伪影的情况下擦除概念。实验表明，SACE能够以最少的训练有效地移除目标概念，并保留重要的良性先验。