differential privacy
PulseAugur coverage of differential privacy — every cluster mentioning differential privacy across labs, papers, and developer communities, ranked by signal.
- instance of alphaXiv 90%
- instance of CatalyzeX 90%
- used by CatalyzeX 70%
- used by alphaXiv 70%
- used by Gotit.pub 70%
- used by ScienceCast 70%
- instance of DP SGD 70%
- instance of Gotit.pub 70%
- used by DP SGD 70%
- uses fully homomorphic encryption 70%
- instance of ScienceCast 60%
- affiliated with fully homomorphic encryption 50%
6 天有情绪数据
-
新框架增强了表格上下文学习的差分隐私
研究人员开发了PriTabICL,一个用于差分隐私表格上下文学习的新框架。该方法通过将数据划分为簇并在每个簇中独立合成演示来解决现有方法的局限性。这种方法优先考虑与预测相关的统计关系,并在各种数据集上显示出更高的有效性,在大多数评估环境中优于现有的私有TabICL方法。
-
新框架支持医疗视觉语言模型的隐私保护适应
研究人员开发了SCAN,一个新颖的框架,用于在无需共享敏感患者MRI扫描的情况下,将视觉语言模型(VLMs)适应于神经系统疾病分类。这种站点感知的协作方法允许新的医疗站点使用差分隐私来微调现有的VLMs,使它们能够在保护患者隐私的同时,为全球诊断基础模型做出贡献。该框架已证明在改善阿尔茨海默病和癫痫病等病症的分类准确性方面是有效的,即使使用隐私保护的数据摘要,也能在多个国际站点上取得成功。
-
新协议支持对私有数据进行可验证的随机抽样
研究人员开发了一种名为NoCherry的协议,该协议无需依赖可信的单方即可对私有数据进行可验证的随机抽样。该方法使用去中心化的随机信标来选择样本,确保审计人员可以验证随机性,并且数据持有者无法挑选数据来隐藏缺陷。该协议适用于各种审计场景,包括私有AI基准测试和数据集质量声明,允许无偏见的样本选择,同时保护完整数据集的机密性。
-
新的FedEEG方法增强了联邦脑电图学习的隐私性
研究人员开发了一种名为FedEEG的新方法,用于差分隐私联邦类增量学习,专门针对使用可穿戴脑电设备数据的少量人群。该方法结合了突触智能(Synaptic Intelligence)巩固和滞后自适应FedProx项,以减轻灾难性遗忘,其性能优于标准的FedAvg和FedProx方法。该研究还引入了头域客户端级差分隐私(DP),通过降低可实现的epsilon值来显著增强隐私保护,同时保持与非私有训练相当的效用。
-
新的梯度反演攻击利用了联邦学习中的子空间约束
研究人员开发了新的联邦学习梯度反演攻击,利用了线性和仿射子空间约束。这些方法提高了从交换梯度中重建敏感客户端数据的准确性。研究还发现,适度高估批次大小可以提高重建质量,即使在不知道真实批次大小的情况下也是如此,并考察了差分隐私机制对攻击有效性的影响。
-
研究发现:无协方差矩阵的隐私均值估计不可能实现
一篇新发表在arXiv上的研究论文探讨了在协方差矩阵未知的情况下,差分隐私高斯均值估计的局限性。研究建立了下界,表明隐私估计器无法获得与已知协方差时相同的保证。具体而言,最优误差可能显著更大,取决于样本量相对于有效维度的比例,误差会增大 $\sqrt{d/n}$ 或 $\sqrt{d}/n^{3/2}$ 倍。这些发现表明,在协方差未知的设置中,差分隐私可能需要维度相关的误差或样本复杂度。
-
新框架确立私有PAC学习的下界
研究人员开发了一个新框架,用于证明在近似差分隐私下可实现PAC学习的样本复杂度下界。该框架引入了独立类别打包(ICP)参数,该参数被证明可以表征某些数据类别的私有PAC样本复杂度。该研究为轴对齐矩形、区间并集和线性子空间提供了严格的下界,并为半空间和凸多边形提供了改进的界限。
-
新框架降低了联邦隐私优化的通信成本
研究人员开发了一种用于联邦学习环境中差分隐私(DP)优化新框架。该方法称为DP-PCA,旨在降低通信成本,同时保持中央DP保证。它通过DP秩选择步骤、DP幂法以及投影协方差矩阵的噪声释放来实现,能够以比现有集中式方法显著更低的通信量实现预处理DP梯度下降。
-
新框架增强了LLM对齐中稀疏奖励估计的差分隐私性
研究人员开发了一种用于人类反馈强化学习(RLHF)中差分隐私稀疏奖励估计的新框架。该方法解决了现有方法在处理现代大型语言模型的庞大参数空间时遇到的局限性。新的“Private Sparse RLHF”方法假设人类偏好由一小部分相关特征决定,从而提高了理论界限和经验性能。
-
新研究证明可学习分布是可私有学习的
一篇新论文表明,任何可以用有限数量样本学习的概率分布类,在差分隐私下也是可学习的。这一发现证明了Ashtiani的一个猜想,该猜想此前因固定目标误差而被弱否定。这项发表在arXiv上的研究表明,在可学习性的标准定义下,该猜想成立。
-
新的LLM框架CALLIOPE提供无需嵌入的私密主题发现
研究人员开发了CALLIOPE,这是一个用于分析大型非结构化数据集(如LLM对话)中主题层级的新型框架。该系统在其整个流程中独特地利用了LLM的能力,无需向量嵌入和传统的聚类方法。实验表明,CALLIOPE比基于嵌入的方法具有更高的实用性,特别是在需要差分隐私的情况下,尤其是在要求高隐私级别的场景中。
-
新算法为私有在线专家预测提供近乎最优的遗憾
研究人员开发了一种新的差分隐私在线专家预测算法。该算法实现了 \tilde{O}(\sqrt{L^\star}) 的遗憾界限,在 $L^\star$ 代表最佳专家累积损失的低损失情况下,相比现有方法有了显著改进。新的界限与非私有算法相当,表明隐私成本很小。然而,该算法的性能取决于输入序列是否是无意识的,并且对于自适应输入,\tilde{\Omega}(\sqrt{T}) 的遗憾是不可避免的。
-
引导扩散提供私有合成文本生成
研究人员推出了一种新颖的合成文本生成框架——引导扩散(Guided Diffusion),该框架优先考虑隐私。该方法利用扩散语言模型(Diffusion Language Models)引导生成过程,使其生成流畅且语义对齐的文本,同时还融入了差分隐私(differential privacy)。与DP-SGD和Private Evolution等现有方法相比,该方法在分布保真度和下游效用方面表现出优越的性能,并且生成文本的速度明显快于…
-
新的arXiv论文在隐私和延迟反馈方面推进在线学习
两篇新提交到arXiv的研究论文探讨了在线学习算法的进展。第一篇论文介绍了一种用于专家在线预测的差分隐私算法,在低损失情况下实现了接近最优的遗憾值。第二篇论文提出了一种通用的在线凸优化算法,该算法可适应各种损失函数并处理延迟反馈,通过适应曲率类别和减少延迟依赖性来改进现有方法。
-
联邦学习研究解决隐私和数据效率问题
两篇新研究论文探讨了联邦学习在医学影像和长尾数据集方面的进展。第一篇论文介绍了一种隐私保护的个性化联邦学习框架,该框架使用差分隐私和个性化模型来防御基于DCGAN的攻击,并在Brain MRI ND-5数据集上证明了其有效性。第二篇论文提出了SCOPE,一种用于长尾联邦学习中语义核心集选择的可扩展、无需训练的方法,该方法通过利用冻结的视觉-语言模型,显著减少了训练时间和数据传输。
-
新的BR-MoE框架增强了流量分析的隐私保护
研究人员开发了BR-MoE,一个使用预算语义发布的隐私保护流量分析框架。该方法通过采用强化学习和专家混合模型来提炼交通摄像头场景描述,以平衡相关性、覆盖率和简洁性。它通过将专家输出映射到固定模式并使用强化学习控制器来管理重复发布的隐私预算,从而解决了隐私问题,确保了事件级别的差分隐私界限。
-
新研究纠正差分隐私审计中的偏差
一篇新发表在arXiv上的论文解决了差分隐私机制统计隐私审计中的选择偏差问题。研究人员发现,在这些审计中使用的成员推理攻击(MIA)的许多实现会引入偏差,导致统计上无效且过高的隐私泄露估计。该研究提出了统计文献中的方法来纠正这种偏差,并表明如果不进行纠正,先前的审计违反理论上限的频率比声称的要高得多。
-
新的SHIP框架通过分层分类法增强隐私数据洞察力
研究人员推出了一种新颖的框架SHIP(Structured and Hierarchical Insight with Privacy),旨在从文本数据中提取洞察力,同时通过差分隐私确保用户隐私。SHIP通过将私有洞察力构建为可重用的表示形式以供分析查询,解决了比较和评估私有洞察力效用的挑战。该系统自动将查询映射到属性,构建分层分类法,并发布用于分析的差分隐私合成表。实验表明,与现有的私有洞察力方法相比,SHIP在问答和结构保真度方面…
-
随机投影方法增强RAG系统的隐私性
研究人员开发了一种新颖的随机投影方法,以增强检索增强生成(RAG)系统的隐私性。该技术旨在降低在使用大型语言模型(LLM)时,敏感信息从检索数据存储中泄露的风险。所提出的方法将相同的投影应用于数据存储和查询嵌入,可证明地保持语义相似性,同时提供针对数据提取攻击的显著保护。实证结果表明,这种轻量级方法在检索和生成性能方面均优于先前的方法。
-
新研究探讨先进的后验采样和固有的隐私保证
两篇新研究论文探讨了统计建模和隐私方面的先进技术。第一篇论文介绍了潜在退火后验采样(LAPS),这是一种通过将稀疏观测的随机场映射到低维潜在空间并使用流匹配进行先验学习来改进其后验推理的方法。第二篇论文提出了一个使用 Rényi 散度的统一框架,用于分析后验采样固有的差分隐私保证,该框架适用于各种贝叶斯模型。