Bourtoule

机器学习遗忘方法在验证和有效性方面面临挑战

机器学习遗忘是指在不完全重新训练的情况下，从已训练模型中移除特定数据影响的过程，但它在验证其有效性方面面临重大挑战。当前方法难以明确证明数据已被移除，因为信息通常可以通过不同的措辞、语言或输出格式来访问。虽然通过像SISA（分片、独立、作用域、聚合）训练这样的技术可以实现精确遗忘，但这种方法成本高昂且会影响模型质量，对于已经训练好的前沿模型来说不切实际。近似方法更为常见，但缺乏稳健的评估，因为证明知识的缺失比证明其存在更困难。