gradient-ascent unlearning

New defense framework detects and unlearns data poisoning in text summarization models

研究人员开发了一个新的框架，用于在微调过程中防御文本摘要模型免受数据投毒攻击。该框架可以通过分析训练影响和语义一致性来检测投毒数据，并能修复受影响的模型。这些防御措施实现了高检测精度，并能在最小的效用损失下恢复模型行为，即使在自适应攻击下也是如此。