Federated Fine-Tuning (FFT)

新的AugMP策略针对大语言模型的联邦微调

研究人员开发了一种名为增强模型操纵（AugMP）的新策略，用于攻击大语言模型（LLMs）的联邦微调（FFT）。该方法利用图表示学习识别合法LLM更新中的相关性，然后指导创建恶意更新。一种迭代算法优化这些恶意更新，以嵌入对抗性目标，同时使其看起来与良性更新相似，从而难以检测。实验表明，AugMP可以显著降低全局LLM准确性和本地代理性能，同时规避标准防御机制。