EVO-Detect

新的EVO-Detect框架通过动态分析统一MLLM后门检测

研究人员开发了EVO-Detect，一个用于识别多模态大语言模型（MLLM）后门的新框架。与依赖静态线索的先前方法不同，EVO-Detect分析模型生成过程中内部信号的动态演变。它使用两个互补的通道——注意力流（Attention Flow）和逻辑流（Logits Flow）——来监控注意力分配和输出分布如何响应扰动而变化，从而区分恶意攻击和自然变化。这种方法在各种攻击类型上显著优于现有的最先进检测方法。