研究人员开发了AdvNav，一个新颖的黑盒对抗性攻击框架，旨在破坏视觉与语言导航（VLN）系统。与之前需要白盒访问的方法不同，AdvNav仅基于可观察的输入和输出来运行，使其更适用于现实世界中已部署的系统。该框架使用双粒度行为反馈机制来指导其优化策略，有效地发现会降低导航性能的噪声配置。评估表明，AdvNav在R2R数据集上针对基于Transformer和基于LLM的VLN模型取得了高攻击成功率，突显了关键的感知漏洞。 AI
影响 这项研究突显了当前视觉语言导航系统的关键漏洞，可能指导开发更强大、更安全的AI代理。
排序理由 该项目是一篇学术论文，详细介绍了一种针对AI系统的新型对抗性攻击方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
