image classification models

新攻击推断持续更新的AI模型中的时间数据成员资格

研究人员推出了一种新颖的黑盒攻击TMIA，旨在推断持续更新的深度学习模型中的时间成员资格。该攻击旨在确定特定数据样本是否以及何时在模型训练中使用，并在时间戳和时间间隔级别上运行。TMIA利用双向LSTM分析模型在连续更新中的输出，在语言和图像分类模型的实验中显示出比现有方法显著的有效性。该研究还探讨了潜在的防御措施，并强调了隐私和模型效用之间的固有权衡。