研究人员开发了一种方法,为使用随机梯度Langevin动力学(SGLD)训练的深度非参数回归模型提供统计和隐私保证。通过采用针对深度ReLU网络量身定制的PAC-贝叶斯分析,他们建立了一个超风险界限,该界限考虑了近似误差、统计复杂性以及SGLD引入的噪声。该分析表明,该估计器可以实现非参数回归的最优速率,噪声方差与随机项成反比。此外,对于裁剪SGLD,该方法实现了f-DP保证和渐近μ-GDP保证,在真实数据集上的模拟证明了其预测性能和隐私-效用权衡。 AI
影响 为增强回归任务中使用的深度学习模型的隐私和统计鲁棒性提供了理论框架。
排序理由 该集群包含一篇详细介绍深度学习模型新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- deep neural network
- f-DP
- Gaussian noise
- Hugging Face
- PAC-Bayesian learning
- Stochastic gradient Langevin dynamics
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →