GTSRB
PulseAugur coverage of GTSRB — every cluster mentioning GTSRB across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新型后门攻击利用视觉 MoE 容量溢出
研究人员发现了一种针对视觉 Transformer 的混合专家（MoE）架构的新漏洞，称为“容量溢出”。该漏洞源于用于管理专家处理预算的依赖于批次的 token 分派机制。所提出的攻击通过在早期 MoE 层注入后门，并在更深的层注入中和器来利用这一点，而中和器在部署规模的批次大小下会被 token 溢出禁用。实验表明，该攻击在规避现有安全审计的同时，成功率很高。
-
新的 SaBRe 框架增强了 AI 安全的神经网络验证
研究人员开发了一个名为 SaBRe 的新框架，该框架使用分支定界方法来验证神经网络是否符合关系规范。这种方法对于确保网络物理系统中 AI 组件的安全性至关重要。SaBRe 通过分割关系神经元并采用新颖的选择策略来有效改进问题验证，从而优于现有技术。在 ACAS Xu 和 MNIST 等数据集上的评估表明，与基线方法相比，SaBRe 在解决实例和验证效率方面表现更优。
-
新的LAMDA框架提升了AI交通标志识别的鲁棒性
研究人员开发了一个名为LAMDA（Language-Anchored Model for Direction Alignment）的新训练框架，以增强自动驾驶汽车中交通标志识别模型的鲁棒性。该方法利用视觉-语言模型中的语言锚定结构，在不增加推理时间的情况下，提高了对阴影扰动和自然光干扰等对抗性攻击的性能。LAMDA在各种攻击类型和数据集上持续提高了鲁棒性，同时保持或提高了干净精度。
-
新研究解决深度神经网络中的对抗鲁棒性问题
几篇近期研究论文探讨了增强深度神经网络对抗鲁棒性的新方法。这些研究引入了诸如结合经验和认证防御的集成方法、噪声和双边滤波器的协同使用以及用于模拟对抗不确定性的贝叶斯框架等技术。此外，一篇论文提出了一个新的分类器，该分类器在判别能力和鲁棒性之间取得平衡，而另一篇则侧重于能够处理非加性扰动的对抗净化方法。
-
新的AI后门攻击通过针对数据密度来规避防御
研究人员开发了一种新的AI模型后门攻击方法，该方法对训练后防御（如微调和剪枝）具有更强的抵抗力。该技术涉及将触发样本策略性地放置在干净数据分布的低密度区域，从而优化攻击成功率和干净准确率的保持。与现有方法相比，该方法在攻击成功率和对抗防御能力方面表现出更高的性能，表明当前防御策略存在根本性差距。