Multi-Role Collaborative Deception

新基准MobileInject评估MLLM移动代理在多模态注入攻击下的安全性

研究人员推出了MobileInject，这是一个旨在评估多模态大语言模型（MLLM）驱动的移动代理安全性的新型基准。该框架解决了对手将恶意目标嵌入跨应用移动内容，通过间接多模态注入来操纵代理行为的新兴威胁。MobileInject包含11个场景、9个安全风险类别和108个可执行风险实例，并采用了多角色协作欺骗和推理伪装注入等高级攻击方法。实验揭示了移动代理存在显著漏洞，通常源于推理劫持。