实体
adversarial example
adversarial example
PulseAugur coverage of adversarial example — every cluster mentioning adversarial example across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的防御方法Random Logit Scaling保护AI模型免受对抗性攻击
研究人员推出了一种名为Random Logit Scaling (RLS)的新型防御机制，旨在保护深度神经网络免受基于分数的黑盒对抗性样本攻击。RLS作为一种后处理步骤，可以轻松集成到现有机器学习模型中。通过输出随机缩放的logits，RLS旨在迷惑攻击者，同时保持模型的准确性并最小化置信度得分的失真。所提出的防御方法已证明能显著降低当前最先进攻击的成功率。
-
新框架统一检测AI内容、幻觉和水印
研究人员开发了一种新颖的统一框架，用于检测AI生成的内容和伪影，包括LLM文本、幻觉、水印和对抗性示例。该方法利用马氏距离得分（MDS），并通过采用鲁棒的深度表示协方差矩阵估计器来准确表征“正类”（例如，人类生成的文本）。该框架包括用于逐例和逐单元最小协方差行列式（MCD）估计器的有效优化算法，并展示了高击穿点特性。
-
新研究通过新颖的蒸馏和测试方法来提升AI鲁棒性 · 跟踪8个来源
研究人员正在探索增强神经网络对抗鲁棒性的新方法。一种名为AD-CERT的方法结合了对抗蒸馏和区间界传播，在鲁棒性基准测试上取得了最先进的认证性能。另一种技术，激活放大与衰减（A3），使用轻量级插件模块动态重缩放激活，以最小的开销提高鲁棒性。此外，研究还调查了输入维度的作用，发现更高维度通常更容易构建和控制对抗样本。来自Resemble AI的Proteus框架通过系统地应用音频转换来自动化音频深度伪造检测器的对抗鲁棒性测试。