differential privacy
PulseAugur coverage of differential privacy — every cluster mentioning differential privacy across labs, papers, and developer communities, ranked by signal.
13 天有情绪数据
-
新框架增强联邦学习的隐私、鲁棒性和效率 · 跟踪4个来源
研究人员正在开发先进的联邦学习（FL）框架，以增强隐私、鲁棒性和效率。PRoVeFL利用多服务器上的多密钥全同态加密来防止推断和投毒攻击，显著提高了运行时间。另一种方法引入了一个自适应框架，通过使用局部降维和动态梯度裁剪来稳定训练并提高差分隐私下的模型性能，从而解决设备异构性和非独立同分布数据的问题。第三个系统FeLiX通过采用流感知可用性层和鲁棒聚合机制，专注于在真实场景中最小化达到准确率的挂钟时间，以应对客户端流失。最后，一个理论…
-
新研究对差分隐私合成数据上的公平干预进行基准测试
一篇新的研究论文探讨了差分隐私（DP）与公平感知机器学习技术之间复杂的相互作用。该研究系统地评估了DP如何，虽然对隐私至关重要，但可能无意中放大表格数据中现有的偏见。研究人员以DP合成数据为基准测试了各种公平干预措施，发现虽然DP本身会降低效用和公平性，但应用公平机制可以部分恢复公平的结果。后处理方法显示出特别的潜力，在不同的隐私预算下提供了公平性和效用之间的稳定权衡。
-
新方法增强持续学习中的参与者隐私
研究人员开发了一种新的可审计方法，用于确保持续学习系统中的参与者隐私，特别是在联邦学习和流式学习场景中。该方法解决了单次编辑邻近用户流带来的挑战，因为修改可能会破坏标准的隐私分析。提出的缓冲-聚合方法使用随机包装器创建特定大小的箱子，将复杂的流简化为更易于管理的汉明风格更新流，同时提供明确的积压和延迟保证。这种方法实现了单次编辑流的轨迹级差分隐私，将隐私参数与延迟联系起来。
-
图神经网络增强汽车软件调度
研究人员开发了一种新颖的机器学习方法，使用两级图神经网络（GNN）来合成汽车软件架构的作业级依赖（JLD）。该方法旨在限制因果链中的数据年龄，解决了现有技术在检查可调度性方面的局限性。基于GNN的生成器集成到具有差分隐私和可行性检查器的生成与验证框架中，在合成时间和解决方案质量方面均显著优于传统的贪婪启发式方法。
-
新的 DP-SCO 算法大幅降低私有机器学习的验证成本
研究人员开发了一种新的差分隐私（DP）机器学习模型训练方法，该方法显著降低了验证隐私保证的计算成本。这种新的方法专注于 DP 随机凸优化（DP-SCO），允许以比原始训练过程更低的计算量进行验证。这一突破解决了将 DP 应用于大规模机器学习的一个主要瓶颈，使其对于数据提供者和公众确保隐私合规性更加实用。
-
新的RaCO-DP方法通过公平性约束增强了私有学习
研究人员开发了RaCO-DP，一种在满足速率约束的同时，在差分隐私下优化机器学习模型的新颖方法。该方法解决了将标准DP技术应用于依赖于亚群体聚合统计（如群体公平性约束）的目标所面临的挑战。RaCO-DP利用拉格朗日公式和对随机梯度下降-上升（SGDA）的新颖分析来确保隐私和收敛性。实证结果表明，RaCO-DP在隐私、效用和公平性方面优于现有的私有学习方法，尤其是在神经网络方面。
-
新方法支持隐私保护的种族/民族公平性测量
一篇新论文介绍了隐私保护的概率种族/民族估计（PPRE）方法，该方法旨在在保护隐私的前提下，实现针对美国领英（LinkedIn）会员的种族和民族公平性测量。PPRE 集成了安全两方计算、差分隐私和加性同态加密，并结合了两个不同的群体信号源。这两个信号源包括贝叶斯改进姓氏地理编码估计器（Bayesian Improved Surname Geocoding estimator）和一份包含自我报告人口统计信息的调查集，旨在为候选人和浏览者…
-
新研究探讨计算机视觉系统的隐私保护技术
两篇新研究论文探讨了增强计算机视觉系统隐私的方法。第一篇论文“PrivacyBench”介绍了一个评估隐私技术组合的框架，揭示了联邦学习（FL）与差分隐私（DP）的结合可能导致显著的收敛失败和成本增加，而FL与安全多方计算（SMPC）的结合则能保持性能。第二篇论文“用于隐私保护视觉的同态加密”详细介绍了使用全同态加密在加密图像数据上执行推理任务，并在MNIST和CIFAR-10等各种数据集上展示了分类准确率的微小下降。
-
梯度泄露攻击威胁电路设计的GNN
一篇新的研究论文详细介绍了对用于电路设计和硬件安全的图神经网络（GNN）的梯度泄露攻击（GLA）的首次全面评估。研究表明，GLA可能暴露门类型和硬件木马属性等敏感信息，从而可能帮助对手。虽然GIN等一些GNN架构提供了更强的韧性，但GAT等其他架构可能会加剧泄露。现有的防御技术效果有限，并且可能降低模型性能，这表明需要更强大的隐私保护解决方案。
-
新的SIFT方法提高了LLM事实核查的准确性
研究人员开发了一种名为SIFT（声明条件式重评分）的新方法，以提高使用大型语言模型（LLM）的事实核查系统的准确性。这些系统经常错误地将声明标记为支持，即使提供的证据不能完全证明它们。SIFT通过针对完整声明重新评分提取的证据来解决这个问题，并与WSP（保证支持比例）配对，WSP是一种验证证据是否包含声明的NLI检查。在多个基准上的评估表明，SIFT显著恢复了准确性并提高了事实核查输出的可靠性。
-
新方法使用自然标识符进行LLM隐私审计
一篇新的研究论文介绍了一种名为“自然标识符”（NIDs）的方法，用于改进大型语言模型的隐私和数据审计。目前审计差分隐私的方法通常需要重新训练模型或访问特定的保留数据集，而这对于已经训练好的模型来说是不切实际的。NIDs，如密码学哈希和常见训练数据中的短链接等结构化随机字符串，可用于为审计和保留数据集生成无限的替代“金丝雀”和保留数据，以进行数据集推断。这种方法可以在不重新训练的情况下进行事后差分隐私审计，并且即使没有私有的非成员保留数…
-
FedUP框架提供一次性联邦遗忘，降低延迟
研究人员推出FedUP，一个新颖的一次性联邦遗忘框架，旨在解决数据隐私和请求延迟之间的权衡。FedUP采用轻量级的、可插拔的过滤器，能够有效地筛选出目标数据，而无需大量的客户端-服务器通信或复杂的重新训练。通过在服务器端使用差分隐私的类质心样本训练这些过滤器，该框架将遗忘时间从几分钟显著缩短到几秒钟，同时保持了原始模型的性能。其可插拔的架构还允许轻松恢复被遗忘的知识，实验表明在各种任务中具有卓越的精度和效率。
-
新的隐私框架“可预测性”是对差分隐私的补充
研究人员引入了一个新的隐私框架，称为“通过可预测性实现隐私”，它比传统的差分隐私（DP）提供了更细粒度的方法。这种新方法考虑了攻击者的特定知识、数据集的受损部分以及正在进行的查询类型。可预测性通过评估攻击者在观察算法输出后，除了从受损数据中已知的信息之外，还能在多大程度上提高预测敏感信息的能力来衡量隐私泄露。该框架是对DP的补充，可以与DP一起使用以增强隐私控制。
-
新的Doeblin曲线提供更精细收缩保证
研究人员引入了“Doeblin曲线”的概念，以提供对马尔可夫核多路收缩行为更详细的表征。这种新方法即使对于传统Doeblin系数为零的通道也提供了非空收缩保证。Doeblin曲线量化了在特定散度和幂次水平下，跨输入分布集合的收缩情况。这些发现可应用于噪声迭代优化、带噪声电路的可靠计算以及在线迭代算法的差分隐私等领域。
-
新审计器改进 f-Differential Privacy 评估，无需固定样本量
研究人员开发了新的审计器来经验性地评估算法的差分隐私 (DP)，重点关注富有表现力的 $f$-DP 概念。这些审计器可以在没有预先指定的样本量的情况下，以统计学显著性检测整个隐私谱中的隐私泄露。该方法自适应地确定最佳样本数量，显著降低了采样成本，这对于 DP-SGD 等昂贵的训练过程尤其有利。审计器支持白盒和黑盒设置，并可以集成到单次运行框架中。
-
新论文探讨高斯过程和机器学习报告中的差分隐私
两篇最新的arXiv论文探讨了机器学习中的差分隐私，重点关注高斯过程和报告机制。第一篇论文详细介绍了高斯过程后验采样固有的随机性如何提供差分隐私保证，其界限取决于正则化和后验方差。第二篇论文提倡使用非渐近高斯差分隐私（GDP）作为传达DP-SGD等算法隐私保证的更准确方法，并指出其能够以最小的误差捕获完整的隐私配置文件。
-
新方法实现两层ReLU网络的差分隐私
研究人员开发了一种将差分隐私应用于两层ReLU神经网络的方法，这是超越当前凸问题局限性的重要一步。这种新方法利用对偶公式的随机近似来创建一个强凸问题，从而为NoisyCGD等方法提供更准确的隐私边界。实证测试表明，该技术在基准分类任务上实现了与DP-SGD相当的隐私-效用权衡。
-
新的SDFLoRA框架增强了联邦LLM微调的隐私性
研究人员推出了一种新颖的大型语言模型联邦学习框架SDFLoRA，该框架解决了异构客户端带来的挑战。SDFLoRA选择性地将客户端更新解耦为共享和私有组件，从而在保持差分隐私的同时实现稳定的聚合和更好的个性化。实验表明，SDFLoRA的性能优于现有的联邦LoRA方法，提供了改进的效用-隐私权衡。
-
揭示代理网络的新隐私保护方法
研究人员开发了一种在去中心化代理系统中实现公平代币分配和私有数据估值的新方法。该方法使用共享语义空间中的多模态表示，并应用差分隐私来保护用户数据同时保持效用。该方案旨在奖励有效贡献并管理资源稀缺性，在模拟中显示出公平性和服务质量的提高，并增强了对图像重建攻击的抵抗力。
-
新的RING攻击利用联邦学习中的差分隐私
研究人员开发了一种名为RING的新攻击方法，该方法利用联邦学习（FL）中的差分隐私（DP）来隐藏恶意更新。与先前的假设相反，DP可以掩盖后门攻击的统计特征，使现有防御措施失效。RING在针对最先进的防御措施时取得了90.3%的攻击成功率，凸显了DP-FL部署中存在的重大安全漏洞，并伴随着显著的效用权衡。