Concept Erasing Reward

新方法ForceForget增强文本到图像AI模型的安全性

研究人员开发了一种名为ForceForget的新方法，以提高文本到图像生成模型的安全性。该方法使用强化学习来优化概念擦除奖励，旨在移除不安全内容，同时不过度抑制良性概念。ForceForget引入了一个安全适配器来调节交叉注意力层中的概念，在防止不安全图像生成的同时保持图像保真度方面表现出有效性，并在鲁棒性和图像到图像场景中优于现有方法。