研究人员发现，有七次实验室攻击针对五个开源Android AI代理框架，包括AppAgent和Open-AutoGLM。这些攻击利用了人类和机器对截图感知上的差异，代理可能会将隐藏的文本或图像元素解读为指令，从而导致意外操作。这些漏洞分为两类：屏幕感知（Screen Perception），操纵代理如何看待屏幕；以及误用通道（Misused Channel），干扰执行流程。虽然目前这些只是实验室演示，尚未确认有现实世界的利用，但使用这些框架的开发者，尤其是在启用调试功能时，应审查其架构，确保截图被视为数据，而不是可信的命令来源。 AI
影响 强调了移动AI代理中潜在的安全风险，敦促开发者在执行操作前实施可靠的确认步骤。
排序理由 研究论文，详细介绍了AI代理框架中的漏洞。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
