one-shot black-box

新的时间编辑攻击目标是手写体AI

研究人员开发了一种新的方法，用于对用于在线手写识别的深度学习模型进行对抗性攻击。与可能引入可见伪影的现有空间扰动技术不同，这种新颖的方法使用基于显著性的时间编辑。通过在通过基于梯度的激活映射识别出的关键时间步插入或删除点，该方法在生成对抗性示例的同时，保留了书写的自然形状和流畅性。与传统的基于图像的攻击相比，这种时间编辑攻击在单次黑盒场景中表现出更强的可迁移性，凸显了对书写识别系统的一个重大威胁模型。