Hanlin Cai

新的AugMP策略针对LLM的联邦微调

研究人员开发了一种名为增强模型操纵（AugMP）的新策略，以应对大语言模型（LLM）联邦微调（FFT）中的威胁。AugMP利用图表示学习框架来识别合法LLM更新中的相关性，然后指导创建恶意更新。一种迭代算法优化这些对抗性更新，使其嵌入恶意目标，同时保持良性外观，从而难以被标准防御方法检测。实验表明，AugMP可以将全局LLM的准确性显著降低高达26%，局部代理的准确性降低高达22%。