PreAct-ResNet18

新的TARE方法可准确衡量AI后门防御成本

一篇新研究论文介绍了一种名为TARE的方法，旨在更准确地评估AI模型中后门防御的成本。传统方法衡量干净准确率的下降，这可能具有误导性，因为它无法区分防御对模型的影响和后门的实际移除。TARE通过在一个“永不被投毒的双生模型”上运行防御来解决这个问题，从而允许研究人员通过衡量双生模型损失的性能来分离防御的真实成本。该论文还提供了诸如签名TARE列和TARE-Z（用于种子稳定防御的估计器）等工具，以改进这些安全措施的评估。