PulseAugur
中
实时 09:29:19
English(EN) FedLNS: Leverage LayerNorm Signature Modeling to Mitigate Adversarial Manipulation in Federated LLMs

新的FedLNS框架对抗联邦LLM中的对抗性攻击

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了FedLNS，一个新设计的服务器端框架，用于保护联邦学习模型免受对抗性操纵。该方法利用客户端更新中归一化层参数变化的签名来识别和筛选恶意贡献。FedLNS不需要客户端进行额外的数据交换，并且可以与标准的联邦学习聚合技术集成。实验表明，即使高达40%的客户端参与目标操纵，该方法也能有效降低GPT风格、BERT风格和LLaMA风格模型的测试困惑度。 AI

影响 增强了LLM联邦学习的安全性和可靠性，实现了更稳健的私有数据训练。

排序理由 该集群包含一篇学术论文，详细介绍了缓解联邦LLM中对抗性操纵的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的FedLNS框架对抗联邦LLM中的对抗性攻击

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Kai Li, Jong-Ik Park, Carlee Joe-Wong, Wei Ni, Falko Dressler ·

    FedLNS：利用层归一化签名建模缓解联邦LLM中的对抗性操纵

    arXiv:2608.18736v1 Announce Type: new Abstract: Federated training enables language models to learn from distributed private text, but the server cannot directly verify the local supervision or optimization process that produces each client update. A malicious client can therefor…

相关实体

相关话题