FGSM
PulseAugur coverage of FGSM — every cluster mentioning FGSM across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新AEGIS框架增强视觉传感器中的对抗性检测
研究人员开发了AEGIS，一个旨在增强视觉传感器网络中对抗性检测鲁棒性的新框架。该系统集成了SemantiGAN模块，用于对不一致的输入进行语义区分，以及一个利用Dirichlet分布的Evidential Deep Learning分类器，该分类器在预测的同时提供校准的不确定性估计。在Tiny ImageNet数据集上的评估表明，AEGIS在检测各种对抗性攻击方面表现出色，取得了高AUROC、AUPRC和准确率分数。
-
量子神经网络利用噪声实现鲁棒的入侵检测 · arXiv 研究
本文为随机量子神经网络（SQNN）引入了一个严格的理论框架，以增强网络入侵检测中的对抗鲁棒性。该研究提出了一种“退相干收缩定理”，该定理量化了噪声（特别是退偏信道）如何收缩对抗性扰动。在 NSL-KDD 数据集上的实验表明，与无噪声模型相比，使用这种噪声训练的 SQNN 在抵抗 FGSM 和 PGD 等攻击方面具有显著更强的鲁棒性，并避免了灾难性的鲁棒性崩溃。该研究还推导了噪声正则化的自适应惩罚公式，比较了门控丢弃与退偏噪声，发现它们…
-
AI防御对抗性攻击在适应性攻击下显示出局限性
本文探讨了针对AI模型的各种对抗性攻击的防御方法，重点关注对抗性训练、梯度掩码和防御蒸馏。虽然这些方法最初在保护模型免受细微扰动方面显示出希望，但作者证明了攻击者可以调整他们的策略来克服这些防御。文章强调了攻击者和防御者之间持续的对抗性博弈，并暗示一个真正牢不可破的模型可能难以实现，从而提出了一个问题：目标应该是避免自欺欺人，而不是实现无懈可击。
-
CNN在基于ML的网络入侵检测中表现出卓越的鲁棒性
一项新的研究论文调查了用于网络入侵检测系统的机器学习模型在对抗性攻击下的鲁棒性。研究发现，虽然随机森林模型达到了很高的基线准确率，但在对抗性压力下它们会灾难性地失效。相比之下，卷积神经网络（CNN）表现出更强的韧性，即使在扰动水平不断增加的情况下也能保持高准确率，这表明CNN在对抗性环境中是更合适的选择。
-
新AI方法应对不断演变的安卓恶意软件检测
研究人员开发了新的方法来应对安卓恶意软件检测系统中的概念漂移问题，该问题是指模型性能会因恶意软件特征的演变而随时间下降。一种方法，“使用自监督和强化学习的概念漂移适应”，利用自监督学习来获得稳定的表示，并利用强化学习来选择具有成本效益的维护操作。另一种方法，“SEED：用于在预算内应对概念漂移的半监督持续恶意软件检测”，结合了半监督持续学习和主动学习，以在有限的标记数据下提高检测能力。第三项研究，“时间概念漂移下的对抗性漏洞”，纵向评…
-
更简单的机器学习模型对对抗性攻击表现出惊人的鲁棒性
研究人员探讨了机器学习模型的架构选择如何增强其对基于梯度的对抗性攻击的鲁棒性。他们广泛的实验表明，更简单的网络设计、更少的特征和ReLU激活函数能持续降低模型的脆弱性。令人惊讶的是，基于这些原则构建的一个基础模型，在保持高检测准确率和更快训练速度的同时，其性能优于更复杂、经过对抗性训练的模型。
-
新攻击方法预测梯度，提升对抗性生成速度
研究人员开发了一种新方法，通过从前向传播的隐藏状态预测梯度，来生成机器学习模型的对抗性示例。该技术绕过了此类攻击通常需要计算成本高昂的反向传播。这种受神经网络核视图启发的创新方法，通过估计将攻击吞吐量提高了 532%，同时保持了实质性的攻击性能。