Byzantine attacks
PulseAugur coverage of Byzantine attacks — every cluster mentioning Byzantine attacks across labs, papers, and developer communities, ranked by signal.
-
联邦学习面临新的对抗性攻击和防御研究 · 跟踪 2 个来源
两篇最新的 arXiv 论文探讨了联邦学习 (FL) 框架中对抗性攻击和防御的挑战。第一篇论文研究了在 FL 中对 Vision Transformers 进行对抗性训练的可行性，并提出了一种名为 FedWAvg 的新聚合方法，以提高非独立同分布 (non-IID) 数据上的鲁棒准确性。第二篇论文分析了对抗性样本在 FL 中跨不同客户端模型的可迁移性，并引入了一种基于对抗性训练的防御机制来缓解这些攻击，提供了对系统漏洞的理论见解。
-
联邦学习面临新的对抗性攻击与防御
本文探讨了联邦学习（FL）系统在面对包括投毒、拜占庭攻击和对抗性样本攻击在内的各种对抗性攻击时的脆弱性。研究人员分析了不同客户端模型之间对抗性样本的可迁移性，以了解其对数据分布的影响。为了应对这些威胁，开发了一种基于对抗性训练的防御机制，利用了模型鲁棒性的可迁移性。所提出的方法在真实世界数据集上进行了评估，证明了其在现有最先进技术上的性能提升。
-
新框架应对多智能体系统中的隐藏拜占庭攻击
研究人员开发了一个新的理论框架和算法，用于在面临隐藏拜占庭攻击的合作多智能体系统中进行在线安全学习。研究指出，攻击者的信息获取方式，无论是观察计划行动还是盲目行动，都决定了系统的模型复杂度。该研究建立了安全学习的信息论极限，证明了即使在直接回报遗憾为零的情况下，不可避免的遗憾也与累积响应差距相关。提出了一种具有已证明遗憾界的算法，为在这种对抗条件下可靠的多智能体系统奠定了基础。
-
新的FL-OA框架增强联邦学习对抗拜占庭攻击的能力
研究人员推出了一种新颖的联邦学习框架FL-OA，旨在增强其对抗拜占庭攻击的鲁棒性。该框架利用第三方组织的外包审计，该组织拥有根数据集，可以在不严格假设恶意设备比例的情况下进行鲁棒聚合。FL-OA还包含一个梯度上升步骤和一个校正项，以解决良性更新中的发散问题，并采用参数重要性指标，通过关注关键参数来简化审计过程。
-
新的WFAgg算法增强了去中心化联邦学习的安全性
研究人员开发了一种名为WFAgg的新型拜占庭鲁棒聚合算法，用于去中心化联邦学习（DFL）。该算法旨在通过识别和缓解拜占庭攻击来增强DFL环境的安全性，即使在动态去中心化拓扑中也是如此。实验结果表明，WFAgg在图像分类任务上能有效保持模型准确性和收敛性，其性能优于现有的中心化拜占庭鲁棒聚合方法，如Multi-Krum和Clustering。
-
新研究应对联邦学习中的拜占庭攻击
两篇新研究论文解决了联邦学习（FL）中拜占庭攻击的挑战。第一篇论文介绍了投影降维（PDR）框架，该框架通过将梯度压缩到更小的子空间来加速鲁棒聚合，从而在不显著影响准确性的情况下降低计算开销。第二篇论文提出了一个新颖的优化问题，将聚合权重视为可学习参数，允许它们与全局模型联合优化，以提高拜占庭鲁棒性，尤其是在异构数据场景下。
-
研究人员提出AdaBFL，用于对抗攻击的鲁棒联邦学习
研究人员引入了AdaBFL，这是一种新颖的多层防御聚合方法，旨在增强联邦学习在对抗拜占庭攻击时的鲁棒性。该方法通过在服务器不持有全部数据集的情况下提供针对各种攻击的平衡防御，解决了现有方法的局限性。AdaBFL采用三层机制，自适应地调整防御权重以应对复杂威胁，并在非凸和非独立同分布数据设置下分析了其收敛性。