crossguard

CrossGuard 保护多模态大语言模型免受隐式和显式攻击

研究人员开发了 CrossGuard，一种旨在保护多模态大语言模型 (MLLM) 免受复杂隐式攻击的新型防御系统。这些攻击将看似无害的文本和图像输入结合起来传达恶意意图，使其难以检测。为了解决这个问题，该团队还创建了 ImpForge，一个自动化的管道，用于生成多样化的隐式攻击样本以进行训练和评估。实验表明，与现有防御措施相比，CrossGuard 在抵抗隐式和显式威胁方面提供了卓越的保护，同时保持了模型的效用。