MAPLE框架增强LLM隐私-效用权衡

研究人员开发了MAPLE（元数据增强的私有语言演化），一个旨在改善微调大型语言模型（LLM）中隐私-效用权衡的新颖框架。MAPLE解决了高度专业化领域合成数据生成的初始化挑战，现有方法（如Private Evolution, PE）在该领域常导致收敛性差和API调用浪费。通过提取差分隐私（DP）的表格元数据并利用上下文学习，MAPLE能更有效地将合成数据分布锚定在目标领域。评估表明，与基线PE相比，MAPLE实现了更好的隐私-效用、更快的收敛速度和更低的API成本。 AI

影响 改进了隐私保护的LLM微调，可能使专有模型在专业任务中得到更广泛的应用。

排序理由 该集群描述了一篇关于LLM微调新颖框架的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• arXiv
• Differentially private (DP) fine-tuning
• DP synthetic data
• Eli Chien
• Large Language Models (LLMs)
• Metadata Augmented Private Language Evolution
• Private Evolution (PE)

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →