实体
Model robustness as a confirmatory virtue: The case of climate science
Model robustness as a confirmatory virtue: The case of climate science
PulseAugur coverage of Model robustness as a confirmatory virtue: The case of climate science — every cluster mentioning Model robustness as a confirmatory virtue: The case of climate science across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
联邦学习面临新的对抗性攻击与防御
本文探讨了联邦学习（FL）系统中的可迁移对抗性攻击和鲁棒防御机制。研究人员分析了对抗性样本在不同客户端模型之间的可迁移性，以理解它们与数据分布的关系。为了应对这些攻击，设计了一种利用模型鲁棒性可迁移性的新型对抗性训练防御机制。所提出的方法在真实世界数据集上进行了评估，证明其性能优于现有的最先进技术。
-
新AI安全排行榜基准测试模型鲁棒性
一个新的AI安全排行榜已被开发出来，用于基准测试前沿AI模型的鲁棒性。该排行榜弥补了现有排名主要关注模型能力而非安全性的空白。初始版本使用了一个包含1500次越狱尝试的自动化测试套件，以衡量模型响应有害查询的频率，揭示了模型之间在鲁棒性方面的显著差异。
-
新框架利用因果推理检测对抗性AI样本
研究人员推出了一种新颖的框架CausAdv，旨在检测深度学习模型中的对抗性样本，特别是用于计算机视觉的卷积神经网络（CNN）。该方法利用因果推理和反事实分析，通过检查最后一个卷积层中滤波器学习到的因果和非因果特征来识别恶意输入。通过分析干净样本和对抗性样本在反事实信息（CI）上的分布，CausAdv证明对抗性样本表现出独特的CI模式，从而无需单独训练的检测器即可进行检测。