WildFakeToolBench

新基准测试揭示AI图像检测器易受网络图像处理攻击

一个名为WildFakeToolBench的新基准测试套件已被开发出来，用于评估AI生成图像检测器在面对真实世界图像处理技术时的鲁棒性。该套件包含156个来自公共领域的、可执行的图像处理工具，旨在模仿恶意行为者如何在无需专业知识或本地GPU执行的情况下，利用现成信息来规避检测。当使用这些工具处理过的图像对六个最先进的检测器进行测试时，最强的单个工具实现了25.25%至100%的攻击成功率，这表明当前检测方法存在显著的漏洞。