研究人员开发了一种名为PI3D的新型提示注入攻击，专门针对在3D环境中运行的多模态大语言模型（MLLM）。该攻击涉及将带有注入文本的物理对象放置在环境中，目的是覆盖MLLM的预期任务。该方法侧重于识别合理的物体放置，以诱导MLLM执行攻击者的命令。实验表明，PI3D对各种MLLM都有效，并且目前的防御措施不足以可靠地对抗它。 AI
影响 突显了在物理空间中运行的多模态AI系统中的一种新颖安全漏洞，可能影响机器人技术和智能体开发。
排序理由 详细介绍针对AI模型新攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
