PulseAugur
中
实时 06:44:07
English(EN) Color Matters: Trigger Color Affects Success in Federated Backdoor Attacks

触发颜色显著影响联邦学习后门攻击的成功率

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员探讨了视觉触发器的颜色如何影响联邦学习系统中后门攻击的成功率。他们的研究聚焦于蒙版和太阳镜等语义触发器，发现仅改变触发器的颜色就能显著改变攻击效果，即使在触发器语义和投毒预算等其他因素保持不变的情况下也是如此。在CelebA数据集上的实验表明，白色触发器在针对浅色头发时更成功，而黑色触发器在针对深色头发时效果更好，这表明触发器的颜色是设计和评估这些攻击的关键要素。 AI

影响 突显了联邦学习系统中的一种新漏洞，该漏洞可能通过操纵视觉触发器的颜色来被利用。

排序理由 详细介绍AI安全新方法和研究成果的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

触发颜色显著影响联邦学习后门攻击的成功率

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Saurabh Bagchi ·

    Color Matters: Trigger Color Affects Success in Federated Backdoor Attacks

    Federated learning is vulnerable to backdoor attacks in which malicious clients inject poisoned updates while preserving benign-task performance. In this paper, we study a semantics-driven backdoor mechanism in which attackers use natural visual accessories as triggers and manipu…

相关实体

相关话题