PulseAugur
中
实时 18:12:03
English(EN) Code-Poisoning Property Inference Attacks

新的代码投毒攻击泄露机器学习模型的私有数据

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为代码投毒属性推理攻击（CPPIA）的新型隐私攻击，该攻击针对在私有数据上训练的机器学习模型。此攻击专为GitHub等代码托管平台和Codex等编码代理设计，允许恶意代码提供者在训练期间将属性嵌入秘密样本中。当用户下载这些被投毒的代码并使用其私有数据训练模型时，攻击者之后可以查询训练好的模型以泄露敏感信息。据报道，CPPIA在不降低模型性能的情况下实现了100%的攻击准确率，为隐私泄露提供了一种计算上轻量级且有效的方法。 AI

影响 此次攻击凸显了代码共享平台存在的重大隐私风险，可能影响机器学习模型开发的信任度和安全性。

排序理由 详细介绍机器学习模型新型隐私攻击的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的代码投毒攻击泄露机器学习模型的私有数据

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Xukun Luan, Yuhui Gong, Gang Zhang, Zixuan Huang, Yuanguo Bi, Xuesong Li, Jinyan Liu ·

    代码投毒属性推断攻击

    arXiv:2607.15970v1 Announce Type: cross Abstract: The flourishing code hosting platforms and coding agents enable even beginners with private data to build tailored Machine Learning (ML) models using available code quickly. The training data for ML models, often regarded as priva…

相关实体

相关话题