PulseAugur
中
实时 11:13:37
English(EN) Robust Privacy: Inference-Stage Privacy through Certified Robustness

新的鲁棒隐私方法保护AI推理免受数据泄露

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出了一种名为鲁棒隐私（RP）的新方法，用于在AI模型推理过程中保护敏感信息。RP利用认证鲁棒性来确保模型预测在输入周围一定半径内保持不变，从而限制了对手推断私有数据或重建训练样本的能力。这种方法显著降低了属性推断精度和模型反演攻击的成功率，在隐私-实用性权衡方面优于DP-SGD等现有方法。 AI

影响 引入了一个新颖的隐私框架，通过限制推理阶段的数据泄露来增强AI应用中的数据安全性。

排序理由 学术论文，介绍了一种新的AI推理隐私保护技术。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Jiankai Jin, Xiangzheng Zhang, Zhao Liu, Wenzhuo Xu, Dongdong Yang, Deyue Zhang, Quanchen Zou ·

    Robust Privacy: Inference-Stage Privacy through Certified Robustness

    arXiv:2601.17360v2 Announce Type: replace-cross Abstract: An adversary observing a model's released prediction can infer sensitive attributes of the queried input, or even reconstruct representatives of the model's training data. The inference interface thus acts as a side channe…

相关实体

相关话题