image-tool interaction

图像-工具交互提升多模态AI对抗越狱的安全性

一篇新论文探讨了大型视觉语言模型中“图像思维”推理范式的安全影响。研究人员发现，使用显式图像-工具交互的系统在对抗多模态越狱方面具有显著更强的鲁棒性，平均将攻击成功率降低了约30%。即使在图像-工具输出被操纵的情况下也观察到了这种鲁棒性，这表明其益处源于调用过程本身，而非输出内容。该研究提出了一个“图像-工具安全向量”框架来解释这一现象，将调用建模为向安全相关表征的转变。