Markmatch

新的攻击框架破坏对比学习系统中的关系几何

研究人员开发了一种新颖的对抗性攻击框架，该框架针对对比学习系统，而对比学习系统是现代验证系统的基础。与以往以分类为中心的攻击不同，这种新方法侧重于破坏嵌入流形中的关系几何。该攻击通过将正例对推开，负例对拉近来系统性地扭曲相似性，导致成对相似性结构的崩溃和反转。该方法离线训练一个轻量级生成器，以便在单次前向传播中产生对抗性扰动，从而能够对基于相似性的验证系统进行实时攻击，并显著降低其性能。