TAPDreamer

新型对抗性攻击TAPDreamer削弱了机器人世界动作模型

研究人员开发了TAPDreamer，一种针对机器人领域世界动作模型的新型对抗性攻击。该攻击生成固定的局部扰动，可应用于摄像头输入，显著降低这些模型的性能。与以往的攻击不同，TAPDreamer不需要访问目标模型的输出来创建可迁移的对抗性补丁，而是利用公共编码器来创建这些补丁。这些补丁覆盖输入的大约6.5%，在LIBERO和RoboTwin等基准测试中大幅降低了成功率，证明了机器人控制系统中共享视觉编码器的脆弱性。