实体
Neural Cleanse
Neural Cleanse
PulseAugur coverage of Neural Cleanse — every cluster mentioning Neural Cleanse across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的TARE方法可准确衡量AI后门防御成本
一篇新研究论文介绍了一种名为TARE的方法，旨在更准确地评估AI模型中后门防御的成本。传统方法衡量干净准确率的下降，这可能具有误导性，因为它无法区分防御对模型的影响和后门的实际移除。TARE通过在一个“永不被投毒的双生模型”上运行防御来解决这个问题，从而允许研究人员通过衡量双生模型损失的性能来分离防御的真实成本。该论文还提供了诸如签名TARE列和TARE-Z（用于种子稳定防御的估计器）等工具，以改进这些安全措施的评估。
-
新型后门攻击利用视觉 MoE 容量溢出
研究人员发现了一种针对视觉 Transformer 的混合专家（MoE）架构的新漏洞，称为“容量溢出”。该漏洞源于用于管理专家处理预算的依赖于批次的 token 分派机制。所提出的攻击通过在早期 MoE 层注入后门，并在更深的层注入中和器来利用这一点，而中和器在部署规模的批次大小下会被 token 溢出禁用。实验表明，该攻击在规避现有安全审计的同时，成功率很高。
-
新的BadBone攻击针对视觉提示学习模型
研究人员推出BadBone，这是一种针对视觉提示学习模型的新型后门攻击。该攻击会损害骨干模型，导致使用提示学习的下游任务继承漏洞。实验表明BadBone能有效对抗现有防御措施，凸显了该领域新安全措施的必要性。