BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain
PulseAugur coverage of BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain — every cluster mentioning BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
人工智能安全辩论转向对抗性攻击和系统控制
人工智能安全辩论正在加剧，焦点已从防止系统故障转移到解决操纵人工智能行为的对抗性攻击。研究人员正在开发针对操纵输入测试机器人安全的方法，例如错误分类交通标志或改变动作轨迹，即使模型表面上运行正常。这一新的安全问题领域延伸至可能允许攻击者破坏人工智能模型或整个机器人车队的系统漏洞。
-
联邦学习基准揭示聚合方法的漏洞
研究人员开发了一个基准来评估各种攻击场景下的联邦聚合方法，包括模型投毒和后门攻击。该研究分析了五个数据集和四种条件下的五种聚合方法，发现在干净的条件下 Trimmed Mean 表现最佳，而在符号翻转和高斯攻击下 Krum 表现最佳。分析还指出了 FedPARETO 框架和 BadNets 指标实现的潜在差异，表明当前评估实践存在局限性。
-
联邦聚合方法经受 AI 模型投毒攻击测试
一项新的基准研究评估了联邦聚合方法在模型投毒和后门攻击下的表现，重建了一个跨越不同数据集、架构和攻击条件的综合评估矩阵。Trimmed Mean 在干净数据上表现最佳，而 Krum 在符号翻转和高斯攻击下表现优异。研究还指出了 BadNets 指标和 FedPARETO 框架实现方面存在的问题，暗示了报告结果可能存在的差异。
-
新的DFCS方法将后门攻击效率提高了4.60% · 跟踪2个来源
研究人员开发了一种名为分布特征覆盖样本选择（DFCS）的新方法，以提高机器学习模型后门攻击的效率。这种无需训练、触发器无关的方法对预训练特征进行聚类，并从每个聚类中选择最近的样本，旨在避免冗余数据点。DFCS在各种数据集和攻击类型上展示了96.30%的高平均攻击成功率，平均比现有方法高出4.60个百分点，同时保持了干净的准确性。
-
新的InstantForget方法无需重新训练即可解除AI后门
研究人员开发了一种名为InstantForget的新方法，可以在不重新训练模型的情况下移除AI模型中的后门触发器。该技术在推理时运行，通过识别和重置指示后门的异常特征来工作。在CIFAR-10和ResNet-18模型的测试中，InstantForget在保持模型效用的同时，显著降低了各种触发器的平均攻击成功率。