Local differential privacy
PulseAugur coverage of Local differential privacy — every cluster mentioning Local differential privacy across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的联邦推荐系统解决冷启动物品问题
研究人员开发了PMFRec，一种新颖的联邦推荐系统方法，旨在应对冷启动物品的挑战。与假设固定物品池的先前方法不同，PMFRec解决了持续引入新物品的场景。该系统从属性特征生成个性化物品表示，并采用多视角编码器高效捕获多样化的语义视角，通过将协同知识和属性知识融合到单一表示中来减少通信开销。
-
新方法增强了本地差分隐私下的数据效用
研究人员开发了一种新颖的方法来提高在本地差分隐私（LDP）下收集的数据的效用。该方法选择性地减少数据中最与特定任务相关的子空间中的噪声，而不是在所有维度上应用均匀噪声。通过使用公共模型的雅可比矩阵识别这些关键子空间，该方法将噪声分布从各向同性重塑为各向异性，从而在保持隐私保证的同时提高了数据效用。实验表明，在图像分类任务上准确性得到了显著提高。
-
新的LDP框架可适应未知数据域
研究人员开发了一个名为自适应裁剪区域边界（ABC）的新框架，以解决在局部差分隐私（LDP）下收集数值数据时数据域未知所带来的挑战。现有的LDP方法需要预定义的数据域，如果数值被裁剪，会导致信息丢失；如果数据域过于宽泛，则会降低数据质量。ABC方法允许用户发送其扰动后的数据，并附带一个信号，指示其原始值是否被裁剪，从而能够迭代调整数据域。理论分析表明，估计的数据域会收敛到一个合适的范围，而实证评估则证明在各种数据集和LDP机制下数据质量…
-
新方法增强局部差分隐私对抗投毒攻击
研究人员开发了一种名为随机投影裁剪（RPC）的新方法，用于防御局部差分隐私（LDP）协议中的投毒攻击。该方法适用于拥有多个数据项的用户，在这种情况下，由于输出空间更大，现有防御措施的效果会减弱，从而使对手更有能力。RPC 包括用户将本地数据投影到服务器发送的随机向量上，然后对结果进行裁剪以限制攻击能力。研究人员还引入了一种校正方法来解决裁剪偏差问题，从而在不影响偏差-方差权衡的情况下降低裁剪阈值并提高鲁棒性。理论保证和数值实验证明了 …
-
新的FedSEPT方法增强了视觉语言模型联邦提示调优的隐私保护能力
研究人员推出了一种新颖的联邦提示调优方法FedSEPT，用于视觉语言模型，该方法增强了隐私保护并解决了数据异构问题。该方法利用子空间分解专家建模，创建具有共享低秩因子和私有残差的多个提示专家，将通信和隐私噪声限制在紧凑的因子空间内。此外，FedSEPT还采用了实例感知专家融合，用于自适应专家组合和使用缓存特征进行高效融合。在11个不同基准上的实验表明，在相同的隐私约束下，FedSEPT与现有方法相比，在本地适应性和全局泛化性之间取得了更优的平衡。
-
新的DP-NGD框架提升了隐私保护机器学习的效用和速度 · 跟踪2个来源
研究人员开发了DP-NGD，一个新颖的差分隐私自然梯度下降框架，旨在提高隐私保护机器学习的效用。与忽略损失曲率的标准DP-SGD不同，DP-NGD整合了这一信息，以实现更快的收敛速度和更高的准确性。该框架通过解耦曲率估计并采用具有动态钳制的白化空间机制，解决了隐私预算消耗和训练不稳定性等挑战。
-
隐私对AI泛化的复杂影响被揭示
研究人员在分布式学习中，特别是在拜占庭鲁棒性约束下，发现了隐私与泛化之间存在非单调关系。他们的研究表明，在强隐私（高噪声）的情况下，增加隐私实际上可以改善泛化误差，消除了鲁棒性和隐私之间的权衡。然而，在较弱的隐私设置（低噪声）下，这种权衡会重新出现，增加隐私会导致泛化能力下降。这些理论见解得到了实证评估的支持。
-
联邦学习的进展提高了隐私性并降低了通信成本
研究人员开发了新的方法来增强联邦学习中的隐私和效率。一种方法侧重于通过使用 Top-K 梯度稀疏化来降低通信成本，该方法仅传输必要的梯度信息，同时保持模型准确性。另一个框架 DDP-SA 将本地差分隐私与秘密共享相结合，以确保没有任何单个服务器可以访问单个客户端数据，从而提供比现有方法更强的隐私保证。这些进展旨在使联邦学习更具可扩展性和安全性，特别是对于大型模型和去中心化系统。
-
新研究推动机器学习中的差分隐私发展
研究人员开发了增强机器学习中差分隐私的新方法，特别是在去中心化和因果结构学习方面。一种名为DPDL的方法，使用基于相似性的校准技术和高斯噪声来保护非IID数据上的去中心化学习的隐私，实现了线性加速。另一种方法利用全同态加密（FHE）对加密数据进行因果结构学习计算，通过电路简化和近似来管理FHE的计算成本。此外，一种基于快速变换的新型DP草图机制为DP线性回归提供了更快的运行时间，而具有相关噪声的局部差分隐私模型表明，在不牺牲效用的情况…
-
新的LDP-Slicing方法在不牺牲效用的前提下增强图像隐私
研究人员开发了一个名为LDP-Slicing的新框架，以解决将局部差分隐私（LDP）应用于图像数据的挑战。传统的LDP方法在处理像素空间的高维度时面临困难，导致效用显著下降。LDP-Slicing将像素值分解为比特平面，允许在比特级别应用LDP机制。这种方法结合了感知混淆和优化的隐私预算分配，实现了严格的像素级$\varepsilon$-LDP，同时为面部识别和图像分类等下游任务保持了高效用。实验表明，LDP-Slicing在计算开销…
-
新的度量标准化后验泄露（mPL）增强了联合AI消费的隐私性
研究人员开发了一种新的隐私度量标准，称为度量标准化后验泄露（mPL），以解决现有差分隐私方法在特别是联合观测下使用的机器学习系统中的局限性。mPL衡量数据发布引起的后验赔率变化，在联合分析多个数据点时提供更准确的隐私保证。提出的自适应mPL（AmPL）框架通过扰动数据、使用学习到的攻击者进行审计以及调整参数以平衡隐私和效用，在词嵌入案例研究中得到了验证。