Fine-Grained Safety Aggregation

新的Safe-FCL框架增强了联邦持续学习中LLM的安全性

研究人员推出了一种名为Safe-FCL的新框架，旨在增强大型语言模型（LLM）联邦学习的安全性。该系统通过整合持续风险感知和细粒度安全聚合，解决了持续学习场景中不断演变的恶意更新模式的挑战。Safe-FCL的持续风险感知机制能够适应新风险，同时防止遗忘过去的恶意模式；其细粒度安全聚合机制则利用这些风险评估来调节客户端的贡献，在不过度限制良性更新的情况下抑制恶意更新。实验表明，Safe-FCL提高了模型的安全分数和风险识别准确性。