Local differential privacy
PulseAugur coverage of Local differential privacy — every cluster mentioning Local differential privacy across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新的FedSEPT方法增强了视觉语言模型联邦提示调优的隐私保护能力
研究人员推出了一种新颖的联邦提示调优方法FedSEPT，用于视觉语言模型，该方法增强了隐私保护并解决了数据异构问题。该方法利用子空间分解专家建模，创建具有共享低秩因子和私有残差的多个提示专家，将通信和隐私噪声限制在紧凑的因子空间内。此外，FedSEPT还采用了实例感知专家融合，用于自适应专家组合和使用缓存特征进行高效融合。在11个不同基准上的实验表明，在相同的隐私约束下，FedSEPT与现有方法相比，在本地适应性和全局泛化性之间取得了更优的平衡。
-
新的DP-NGD框架提升了隐私保护机器学习的效用和速度 · 跟踪2个来源
研究人员开发了DP-NGD，一个新颖的差分隐私自然梯度下降框架，旨在提高隐私保护机器学习的效用。与忽略损失曲率的标准DP-SGD不同，DP-NGD整合了这一信息，以实现更快的收敛速度和更高的准确性。该框架通过解耦曲率估计并采用具有动态钳制的白化空间机制，解决了隐私预算消耗和训练不稳定性等挑战。
-
隐私对AI泛化的复杂影响被揭示
研究人员在分布式学习中，特别是在拜占庭鲁棒性约束下，发现了隐私与泛化之间存在非单调关系。他们的研究表明，在强隐私（高噪声）的情况下，增加隐私实际上可以改善泛化误差，消除了鲁棒性和隐私之间的权衡。然而，在较弱的隐私设置（低噪声）下，这种权衡会重新出现，增加隐私会导致泛化能力下降。这些理论见解得到了实证评估的支持。
-
联邦学习的进展提高了隐私性并降低了通信成本
研究人员开发了新的方法来增强联邦学习中的隐私和效率。一种方法侧重于通过使用 Top-K 梯度稀疏化来降低通信成本，该方法仅传输必要的梯度信息，同时保持模型准确性。另一个框架 DDP-SA 将本地差分隐私与秘密共享相结合，以确保没有任何单个服务器可以访问单个客户端数据，从而提供比现有方法更强的隐私保证。这些进展旨在使联邦学习更具可扩展性和安全性，特别是对于大型模型和去中心化系统。
-
新研究推动机器学习中的差分隐私发展
研究人员开发了增强机器学习中差分隐私的新方法，特别是在去中心化和因果结构学习方面。一种名为DPDL的方法，使用基于相似性的校准技术和高斯噪声来保护非IID数据上的去中心化学习的隐私，实现了线性加速。另一种方法利用全同态加密（FHE）对加密数据进行因果结构学习计算，通过电路简化和近似来管理FHE的计算成本。此外，一种基于快速变换的新型DP草图机制为DP线性回归提供了更快的运行时间，而具有相关噪声的局部差分隐私模型表明，在不牺牲效用的情况…
-
新的LDP-Slicing方法在不牺牲效用的前提下增强图像隐私
研究人员开发了一个名为LDP-Slicing的新框架，以解决将局部差分隐私（LDP）应用于图像数据的挑战。传统的LDP方法在处理像素空间的高维度时面临困难，导致效用显著下降。LDP-Slicing将像素值分解为比特平面，允许在比特级别应用LDP机制。这种方法结合了感知混淆和优化的隐私预算分配，实现了严格的像素级$\varepsilon$-LDP，同时为面部识别和图像分类等下游任务保持了高效用。实验表明，LDP-Slicing在计算开销…
-
新的度量标准化后验泄露（mPL）增强了联合AI消费的隐私性
研究人员开发了一种新的隐私度量标准，称为度量标准化后验泄露（mPL），以解决现有差分隐私方法在特别是联合观测下使用的机器学习系统中的局限性。mPL衡量数据发布引起的后验赔率变化，在联合分析多个数据点时提供更准确的隐私保证。提出的自适应mPL（AmPL）框架通过扰动数据、使用学习到的攻击者进行审计以及调整参数以平衡隐私和效用，在词嵌入案例研究中得到了验证。