研究人员开发了SteerTrace,一种针对世界动作模型(WAMs)的新型攻击方法,可以操纵它们预测的未来动作。这种攻击只需要一个跨帧和跨任务的最小扰动,就可以将模型的输出引导至攻击者定义的目標。SteerTrace在各种WAM架构和数据集上都显示出显著的有效性,将任务成功率降至接近零,并将动作导向攻击者的目标。 AI
影响 这项研究突显了世界动作模型潜在的漏洞,表明需要加强安全措施和鲁棒性测试,以防范针对性操纵。
排序理由 该项目描述了一篇关于新型AI模型攻击方法的新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →