SafeIMG

AI生成的图像未能骗过人类在安全关键场景

一个名为SafeIMG的新基准已被开发出来，用于评估AI生成的图像在高风险场景下的可靠性，例如那些影响公共安全和个人声誉的场景。研究人员发现，目前专门的检测器和视觉语言模型（VLMs）在识别这些合成图像方面无效，最好的VLM仅能检测到49.5%，而顶级的检测器仅能识别33.1%。人类评估者表现明显更好，准确率达到81.7%，并且能够识别出当前AI模型难以检测或解释的局部伪影、常识冲突和物理不一致性。