JECA^2

新攻击方法JECA^2 针对法医视觉语言模型一致性

研究人员推出了一种新颖的对抗攻击方法JECA^2，旨在挑战法医视觉语言模型（VLM）的鲁棒性。该攻击专门针对VLM在图像真实性判断与其自然语言解释之间的一致性。JECA^2操纵视觉归因并优化文本解释，使其与期望的判断保持一致，在白盒场景下，与现有方法相比，展示了更高的攻击成功率和改进的判断-解释一致性。研究结果突显了基于解释的法医VLM的一个关键失效模式，并表明需要进行更全面的鲁棒性评估。