研究人员开发了一种新颖的对抗性攻击框架，该框架针对对比学习系统，而对比学习系统是现代验证系统的基础。与以往以分类为中心的攻击不同，这种新方法侧重于破坏嵌入流形中的关系几何。该攻击通过将正例对推开，负例对拉近来系统性地扭曲相似性，导致成对相似性结构的崩溃和反转。该方法离线训练一个轻量级生成器，以便在单次前向传播中产生对抗性扰动，从而能够对基于相似性的验证系统进行实时攻击，并显著降低其性能。 AI
影响 这项研究突显了AI验证系统的新漏洞，可能影响依赖对比学习的系统的安全性和可靠性。
排序理由 学术论文，详细介绍了一种新的AI模型对抗攻击方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
