研究人员开发了DP-Merging,一个旨在改进差分隐私任务模型可合并性的新框架。该方法解决了两个关键的几何障碍:局部尖锐性和参考漂移,这阻碍了私有模型的组合。DP-Merging引导私有任务模型趋向更平坦的损失区域,并将其与共享的预训练初始化对齐,从而减少了与合并相关的损失增加。实验表明,DP-Merging在保持差分隐私保证的同时,提高了私有合并模型在视觉和语言任务上的性能。 AI
影响 增强了在不损害数据隐私的情况下组合私有AI模型的能力,可能促进更具协作性的AI开发。
排序理由 关于差分隐私下模型合并新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →