differential privacy
PulseAugur coverage of differential privacy — every cluster mentioning differential privacy across labs, papers, and developer communities, ranked by signal.
- used by ScienceCast 70%
- used by Gotit.pub 70%
- used by CatalyzeX 70%
- instance of Gotit.pub 70%
- used by DP SGD 70%
- instance of DP SGD 70%
- instance of alphaXiv 70%
- instance of CatalyzeX 70%
- uses fully homomorphic encryption 70%
- used by alphaXiv 60%
- partners with fully homomorphic encryption 50%
- affiliated with fully homomorphic encryption 50%
8 天有情绪数据
-
新方法提升去中心化联邦学习的隐私和效率 · 跟踪 2 篇论文
两篇新研究论文介绍了增强去中心化联邦学习隐私和效率的新方法。第一篇论文 PrivateDFL 利用超维度计算和透明噪声会计来跟踪累积噪声，允许客户端添加最小的增量噪声，从而实现更好的隐私-准确性平衡。第二篇论文 DDP-SA-adaptive 提出了一种自适应梯度裁剪和噪声注入机制，该机制根据层和轮次调整裁剪阈值，与静态方法相比，提高了训练效率和隐私保证的强度。
-
Google 推出 HEIR 编译器，实现实用的私密人工智能与同态加密
Google 推出了 HEIR，一个开源编译器，旨在使同态加密在人工智能推理中变得实用。该技术允许在加密数据上进行计算，从而增强医疗保健和金融等敏感行业的隐私性。虽然同态加密的实现历来很复杂，但 HEIR 旨在简化开发人员的使用，使人工智能应用程序能够在不直接访问用户数据的情况下处理用户数据。Google 已与硬件加速器公司和学术机构合作，以推进 HEIR 的功能并探索其应用。
-
隐私保护行为识别的新分类法和评估协议
一篇新发表在arXiv上的论文提供了隐私保护行为识别（PPAR）方法的全面分类法和评估。该综述将2018-2026年的32篇论文分为五类：对抗性学习、基于骨骼、密码学、差分隐私和混合方法，并强调了它们在隐私、效用和效率方面的独特权衡。论文指出了当前评估实践中的显著弱点，许多研究使用临时指标，缺乏正式的隐私定义或对泛化和实时部署的严格测试。作者提出了PPAR统一评估协议，以标准化基准并指导该领域走向实际部署，这对人脸识别和医学成像等相关…
-
新的DP-SimAgg框架增强了联邦医学影像分析的隐私保护
研究人员开发了DP-SimAgg，一个旨在增强医学影像分析隐私保护的新联邦学习框架。该框架结合了相似性加权聚合和服务器端差分隐私，使用L2裁剪和高斯噪声来保护敏感数据。DP-SimAgg在Intel的OpenFL平台上实现，并在脑肿瘤分割数据上进行了测试，在提供强大隐私保证的同时，展现了具有竞争力的性能。
-
已撤稿论文分析无线联邦学习中的差分隐私
这篇题为“当差分隐私遇上无线联邦学习：隐私与收敛性的改进分析”的论文已被作者Hao Liang撤回。该研究旨在解决现有差分隐私无线联邦学习（DPWFL）框架的局限性，特别是在严格假设下的隐私损失特征化和收敛性分析方面。作者提出了对具有非凸损失目标的DPWFL进行全面分析，包括设备选择和mini-batch采样，并旨在证明隐私损失可以收敛到一个常数。该工作还旨在建立具有梯度裁剪的收敛保证，并推导出明确的隐私-效用权衡，数值结果验证了理论发现。
-
新的PGBB方法增强了AI统计报告的隐私性
研究人员开发了一种名为私有生成式贝叶斯自举法（Private Generative Bayesian Bootstrap, PGBB）的新方法，用于在报告来自AI系统的统计答案和不确定性时保护个人隐私。PGBB使用贝叶斯无似然框架和一种阻塞策略，将个人分组并分配单一权重，从而加强了差分隐私。该方法在训练过程中使用校准噪声来学习从观测权重到后验样本的私有映射，后续的抽样无需额外的隐私预算。PGBB在模拟和应用于美国人口普查数据时，展示了…
-
新的PGBB方法增强了AI统计报告的隐私性
研究人员开发了一种名为私有生成式贝叶斯自举法（PGBB）的新方法，用于在报告AI系统的统计信息和不确定性时保护个人隐私。PGBB采用分组策略，将个人分组并为每个组分配单一权重，从而隐藏个人贡献。该方法通过在训练过程中添加校准噪声来加强差分隐私，允许后续的后验抽样而不产生额外的隐私成本。该方法在模拟和应用中已证明具有具有竞争力的私有不确定性量化能力，优于其他私有贝叶斯方法。
-
新的AI审计框架模拟了开发者的策略性响应
研究人员开发了一个新的AI系统审计框架，该框架考虑了开发者的策略性响应。提出的方法将审计过程建模为一个双层Stackelberg博弈，其中审计员设定隐私约束，开发者优化其响应。通过考虑开发者在缓解措施上的策略性重新分配，这种方法旨在更好地检测危害，因为如果不考虑这一点，可能会导致某些危害的漏检。
-
新的差分隐私置换检验提供增强的隐私和统计效率
研究人员开发了差分隐私置换检验，以解决假设检验中的隐私问题。这一新框架将经典的非隐私置换检验扩展到保持差分隐私的设置中，确保了有限样本的有效性和严格的隐私保护。所提出的检验旨在实用且统计高效，在各种隐私机制下实现最小最大最优功效，并在实证评估中表现出竞争力。
-
新型优化器DP-IVON-Gradsq增强了贝叶斯深度学习中的差分隐私
研究人员开发了DP-IVON-Gradsq，这是一种旨在增强贝叶斯深度学习中差分隐私的新型优化器。该方法旨在减轻隐私噪声与贝叶斯后验采样固有的随机性之间的干扰。通过使用噪声校正的平方梯度估计器，DP-IVON-Gradsq在保持与Adam相似的计算效率的同时，增强了隐私保证。在CIFAR-10数据集上的评估表明，在隐私约束不那么严格的情况下，DP-IVON-Gradsq的性能与DP-SGD和DP-Adam相当。
-
ScoreShield 为 AI 应用中的相似度分数提供差分隐私保护
研究人员开发了 ScoreShield，这是一种新颖的机制，旨在保护在发布向量嵌入的相似度分数时的隐私。该方法解决了检索增强生成 (RAG) 和生物识别等应用中固有的信息泄露和成员推理攻击问题。ScoreShield 采用扰动后投影的方法，添加经过校准的高斯噪声，然后将结果投影到余弦对象的可行集上。与朴素的差分隐私方法相比，该技术提供了更高的效用，尤其适用于大规模发布相似度分数向量和格拉姆矩阵。
-
新流程增强临床AI模型的隐私性和准确性
研究人员开发了一种用于处理不平衡临床数据上的差分隐私联邦学习的稳健流程，特别适用于心血管风险预测。该流程整合了SMOTETomek技术以解决数据不平衡问题，并采用了FedProx算法来处理非独立同分布（non-IID）数据，其性能优于标准的FedAvg。研究确定了隐私-效用边界上的一个最优区域，表明在保持高临床效用（召回率>77%）的同时，可以维持强大的隐私保证（epsilon 9.0）。这项工作为使用异构医疗数据构建安全准确的诊断工…
-
联邦学习框架经差分隐私验证可用于临床
研究人员已经验证了 FedCVR 框架在真实世界临床环境（特别是心血管数据集）中的联邦学习应用。该框架能够保持临床效用，同时遵守差分隐私标准。研究表明，FedCVR 在保持数据效用方面优于标准的 FedAvg，并在定义的隐私预算下取得了显著的 79.2% 的 F1 分数和 0.96 的 AUC。
-
新指标PCER审计差分隐私机器学习中的公平性
研究人员为差分隐私机器学习系统引入了一个新的群体公平性标准，称为隐私成本公平比（PCER）。PCER解决了差分隐私机制（如DP-SGD）可能不成比例地增加某些人口统计群体的隐私成本，从而导致更广泛的准确性差异的问题。通过将公平性框架化为补偿性的，PCER认为承担更高隐私暴露的群体应获得更大的系统收益。该指标仅需要每组的准确性数据，可用作事后审计工具，以揭示基于结果的指标所忽略的公平性问题，如在COMPAS数据集上的演示所示，该数据集揭…
-
新框架平衡AI推荐个性化与强大隐私保护
研究人员开发了一个新的推荐系统框架，该框架在优先考虑用户隐私的同时保持个性化。该方法结合了联邦学习、差分隐私和智能代理，以保持用户数据去中心化，并在模型更新中引入受控噪声。在合成零售数据上的实验表明，该框架可以实现强大的隐私保证，适度的隐私预算（epsilon 约等于 5）对推荐效果影响有限。
-
新的联邦学习方法为医疗保健AI调整隐私设置
研究人员开发了一个新颖的联邦学习（FL）框架，旨在通过解决参与机构之间的隐私和合规性差异来改进医疗保健领域AI模型的训练。这种新方法称为合规性加权噪声分配，根据各客户对HIPAA和GDPR等法规的遵守情况，动态调整应用于每个客户的差分隐私（DP）噪声水平。与应用统一噪声的标准DP方法不同，这种自适应策略允许合规性得分较低的机构参与，而不会不成比例地影响整体模型性能。在医疗保健数据集上的评估表明，该方法在提供可审计的站点级噪声控制的同时…
-
新研究发现，使用合成数据进行AI训练会放大真实数据的隐私风险
新研究表明，将真实数据和合成数据结合用于训练AI模型（一种称为真实-合成混合训练（RSMT）的做法）可能会无意中放大真实数据的隐私风险。研究提出了理论框架和RSMixLeak等方法来评估和缓解这些放大的隐私泄露。此外，一份实用指南探讨了如何生成具有差分隐私（DP）的合成数据，以平衡效用和强大的隐私保证，旨在提高DP合成数据方法的信任度和采用率。
-
新研究审计机器学习子群体中的公平性-隐私权权衡
一项发表在arXiv上的新研究调查了机器学习模型中增强公平性的算法与隐私泄露之间复杂的相互作用。研究人员调整了似然比攻击（LiRA）以审计子群体层面的隐私风险，揭示了公平性干预可能对不同群体产生不均衡的影响。研究还分析了差分隐私如何与公平性方法相互作用，表明收益和成本并非均匀分布。研究结果强调了在子群体层面联合评估公平性、隐私权和效用的必要性，并引入了一个支持此类审计的框架。
-
新框架结合量子电路和差分隐私，实现安全数据聚类
研究人员推出了一种名为 Equivariant Quantum Clustering (EQC) 的新框架，旨在增强敏感数据集的隐私保护聚类。EQC 将量子电路与差分隐私相结合，利用参数高效的设计来维护数据机密性，同时提高分析性能。该框架在 NSL-KDD 等基准测试中表现出色，实现了高聚类准确率，并显著降低了成员推理攻击的成功率。
-
新研究对差分隐私合成数据上的公平干预进行基准测试
一篇新的研究论文探讨了差分隐私（DP）与公平感知机器学习技术之间复杂的相互作用。该研究系统地评估了DP如何，虽然对隐私至关重要，但可能无意中放大表格数据中现有的偏见。研究人员以DP合成数据为基准测试了各种公平干预措施，发现虽然DP本身会降低效用和公平性，但应用公平机制可以部分恢复公平的结果。后处理方法显示出特别的潜力，在不同的隐私预算下提供了公平性和效用之间的稳定权衡。