实体
BadWAM
BadWAM
PulseAugur coverage of BadWAM — every cluster mentioning BadWAM across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的SteerTrace攻击以最小扰动操纵世界动作模型
研究人员开发了SteerTrace,一种针对世界动作模型(WAMs)的新型攻击方法,可以操纵它们预测的未来动作。这种攻击只需要一个跨帧和跨任务的最小扰动,就可以将模型的输出引导至攻击者定义的目標。SteerTrace在各种WAM架构和数据集上都显示出显著的有效性,将任务成功率降至接近零,并将动作导向攻击者的目标。
-
新的BadWAM框架揭示了世界动作模型中的漏洞
研究人员引入了BadWAM,这是一个用于评估世界动作模型(WAMs)对抗性攻击的框架。这些攻击利用微小的视觉扰动来破坏WAMs的预期未来与其执行动作之间的一致性。该框架包含两种类型的攻击:一种优先考虑任务失败,另一种则在诱导有害动作的同时保持一个看似合理的预期未来,这表明任务成功率显著下降。