研究人员推出了MobileInject，这是一个旨在评估多模态大语言模型（MLLM）驱动的移动代理安全性的新型基准。该框架解决了对手将恶意目标嵌入跨应用移动内容，通过间接多模态注入来操纵代理行为的新兴威胁。MobileInject包含11个场景、9个安全风险类别和108个可执行风险实例，并采用了多角色协作欺骗和推理伪装注入等高级攻击方法。实验揭示了移动代理存在显著漏洞，通常源于推理劫持。 AI
影响 该基准有望促使在移动环境中运行的AI代理更加安全，降低恶意内容注入的风险。
排序理由 该项目是一篇研究论文，详细介绍了一个用于评估AI安全性的新基准。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Cross-Modal Consistency Injection
- Hugging Face
- MobileInject
- multimodal large language model
- Multi-Role Collaborative Deception
- Reasoning-Camouflage Injection
- Reasoning Security Diagnosis Framework
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
