Property Inference Attacks

新的代码投毒攻击泄露机器学习模型的私有数据

研究人员开发了一种名为代码投毒属性推理攻击（CPPIA）的新型隐私攻击，该攻击针对在私有数据上训练的机器学习模型。此攻击专为GitHub等代码托管平台和Codex等编码代理设计，允许恶意代码提供者在训练期间将属性嵌入秘密样本中。当用户下载这些被投毒的代码并使用其私有数据训练模型时，攻击者之后可以查询训练好的模型以泄露敏感信息。据报道，CPPIA在不降低模型性能的情况下实现了100%的攻击准确率，为隐私泄露提供了一种计算上轻量级且有效的方法。