实体
Qian Ma
Qian Ma
PulseAugur coverage of Qian Ma — every cluster mentioning Qian Ma across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的后门攻击针对AI知识蒸馏过程
研究人员展示了一种对图像知识蒸馏进行后门攻击的新方法，该过程通常用于将大型AI模型的能力转移到小型模型上。该攻击通过用经过篡改的图像污染蒸馏数据集，导致学生模型学习到后门，即使教师模型不受影响且学生模型在干净数据上保持具有竞争力的性能。这凸显了AI管道中数据完整性和来源追溯的关键需求，因为仅靠受信任的教师模型不足以防止安全漏洞。
-
新研究发现，使用合成数据进行AI训练会放大真实数据的隐私风险
新研究表明，将真实数据和合成数据结合用于训练AI模型（一种称为真实-合成混合训练（RSMT）的做法）可能会无意中放大真实数据的隐私风险。研究提出了理论框架和RSMixLeak等方法来评估和缓解这些放大的隐私泄露。此外，一份实用指南探讨了如何生成具有差分隐私（DP）的合成数据，以平衡效用和强大的隐私保证，旨在提高DP合成数据方法的信任度和采用率。