VisInject

新研究表明，视觉语言模型的通用对抗性攻击效果不如预期

研究人员开发了一种新的评估方法VisInject，用于区分视觉语言模型对抗性攻击中的一般性扰乱和精确注入。他们的研究结果表明，虽然许多攻击可以扰乱模型输出，但精确注入特定概念的成功率远低于此前的报道。该研究利用DeepSeek-V4-Pro和Claude Opus 4.7进行评估，并发布了一个包含对抗性图像和模型响应的数据集，以促进进一步的研究。