Haaglanden Medisch Centrum

MANCE 方法改进了 AI 表示中的概念擦除

研究人员推出了一种新颖的方法 MANCE（流形感知概念擦除），用于在保留其他信息的同时从数据表示中移除特定概念。MANCE 基于流形约束假设，该假设认为干预应限制在表示的自然、低维流形内，以保持数据完整性。该方法使用概念分类器的信号迭代更新表示，并将这些更新投影到估计的流形上。在文本和视觉任务（包括众多语言模型和属性）上的评估表明，与以前的技术相比，MANCE 在减少信息泄露方面取得了持续改进。