PulseAugur
实时 08:39:59

新的 DP-SGD 子采样方法提供了改进的隐私-效用权衡

两篇新研究论文探讨了差分私有随机梯度下降(DP-SGD)的优化子采样技术。第一篇论文侧重于随机洗牌,在 f-DP 框架内提供了紧密的上限和下限,在大量训练轮次中实现了近乎理想的隐私。第二篇论文介绍了平衡迭代子采样(BIS),表明结构化参与而非随机抽样可以带来更强的隐私放大和跨噪声谱的最优权衡。评估表明,BIS 在低噪声环境下始终优于泊松子采样,从而降低了所需的噪声乘数。 AI

影响 这些研究为差分私有机器学习提供了新方法,有望实现具有更强隐私保证的更高效用模型。

排序理由 两篇在 arXiv 上发表的学术论文,展示了 DP-SGD 子采样技术的新理论和实证结果。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →

新的 DP-SGD 子采样方法提供了改进的隐私-效用权衡

报道来源 [3]

  1. arXiv cs.LG TIER_1 English(EN) · Marten van Dijk, Murat Bilgehan Ertan ·

    基于随机打乱子采样的 DP-SGD 的权衡函数:紧密的上下界

    arXiv:2605.06259v1 Announce Type: new Abstract: We derive a tight analysis of the trade-off function for Differentially Private Stochastic Gradient Descent (DP-SGD) with subsampling based on random shuffling within the $f$-DP framework. Our analysis covers the regime $\sigma \geq…

  2. arXiv stat.ML TIER_1 English(EN) · Andy Dong, Ayfer \"Ozg\"ur ·

    更少随机性,更多隐私性:DP-SGD 的最优子采样方案是什么?

    arXiv:2605.07072v1 Announce Type: cross Abstract: Poisson subsampling is the default sampling scheme in differentially private machine learning, largely because its unstructured randomness yields tractable privacy amplification analyses. Yet this same randomness introduces substa…

  3. arXiv stat.ML TIER_1 English(EN) · Ayfer Özgür ·

    更少随机性,更多隐私性:DP-SGD 的最优子采样方案是什么?

    Poisson subsampling is the default sampling scheme in differentially private machine learning, largely because its unstructured randomness yields tractable privacy amplification analyses. Yet this same randomness introduces substantial participation variance: each sample appears …