Model robustness as a confirmatory virtue: The case of climate science
PulseAugur coverage of Model robustness as a confirmatory virtue: The case of climate science — every cluster mentioning Model robustness as a confirmatory virtue: The case of climate science across labs, papers, and developer communities, ranked by signal.
-
联邦学习面临新的对抗性攻击和防御研究 · 跟踪 2 个来源
两篇最新的 arXiv 论文探讨了联邦学习 (FL) 框架中对抗性攻击和防御的挑战。第一篇论文研究了在 FL 中对 Vision Transformers 进行对抗性训练的可行性，并提出了一种名为 FedWAvg 的新聚合方法，以提高非独立同分布 (non-IID) 数据上的鲁棒准确性。第二篇论文分析了对抗性样本在 FL 中跨不同客户端模型的可迁移性，并引入了一种基于对抗性训练的防御机制来缓解这些攻击，提供了对系统漏洞的理论见解。
-
联邦学习面临新的对抗性攻击与防御
本文探讨了联邦学习（FL）系统在面对包括投毒、拜占庭攻击和对抗性样本攻击在内的各种对抗性攻击时的脆弱性。研究人员分析了不同客户端模型之间对抗性样本的可迁移性，以了解其对数据分布的影响。为了应对这些威胁，开发了一种基于对抗性训练的防御机制，利用了模型鲁棒性的可迁移性。所提出的方法在真实世界数据集上进行了评估，证明了其在现有最先进技术上的性能提升。
-
新AI安全排行榜基准测试模型鲁棒性
一个新的AI安全排行榜已被开发出来，用于基准测试前沿AI模型的鲁棒性。该排行榜弥补了现有排名主要关注模型能力而非安全性的空白。初始版本使用了一个包含1500次越狱尝试的自动化测试套件，以衡量模型响应有害查询的频率，揭示了模型之间在鲁棒性方面的显著差异。
-
新框架利用因果推理检测对抗性AI样本
研究人员推出了一种新颖的框架CausAdv，旨在检测深度学习模型中的对抗性样本，特别是用于计算机视觉的卷积神经网络（CNN）。该方法利用因果推理和反事实分析，通过检查最后一个卷积层中滤波器学习到的因果和非因果特征来识别恶意输入。通过分析干净样本和对抗性样本在反事实信息（CI）上的分布，CausAdv证明对抗性样本表现出独特的CI模式，从而无需单独训练的检测器即可进行检测。