研究人员开发了AdvNav，一个新颖的黑盒对抗性攻击框架，旨在破坏视觉语言导航（VLN）系统。与先前需要白盒访问或专注于单步任务的方法不同，AdvNav在没有模型梯度的情况下运行，并针对顺序感知-行动循环。它利用双粒度行为反馈机制，结合轨迹和动作级别的性能得分，来指导一个迭代发现破坏性噪声配置的优化策略。评估表明，AdvNav在R2R数据集上针对基于Transformer和基于LLM的VLN模型取得了很高的攻击成功率，突显了当前系统存在的重大漏洞。 AI
影响 强调了VLN模型中关键的感知漏洞，可能推动对更具弹性的AI导航系统的研究。
排序理由 详细介绍AI系统新对抗性攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
