新的AugMP策略针对LLM的联邦微调

研究人员开发了一种名为增强模型操纵（AugMP）的新策略，以应对大语言模型（LLM）联邦微调（FFT）中的威胁。AugMP利用图表示学习框架来识别合法LLM更新中的相关性，然后指导创建恶意更新。一种迭代算法优化这些对抗性更新，使其嵌入恶意目标，同时保持良性外观，从而难以被标准防御方法检测。实验表明，AugMP可以将全局LLM的准确性显著降低高达26%，局部代理的准确性降低高达22%。 AI

影响 引入了一种针对联邦LLM训练的新型攻击向量，凸显了对先进防御机制的需求。

排序理由 研究论文，详细介绍了联邦学习中模型操纵的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• alphaXiv
• arXiv
• AugMP
• DagsHub
• federated learning
• Gotit.pub
• Hanlin Cai
• Hugging Face
• LLMs
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →