PulseAugur
中
实时 14:54:32
English(EN) SilentDrift: Exploiting Action Chunking for Stealthy Backdoor Attacks on Vision-Language-Action Models

新的AI防御和攻击针对视觉-语言模型

作者 PulseAugur 编辑部 · [2 个来源] ·

研究人员开发了新的方法来防御和利用先进AI模型中的后门攻击。一种名为BYORn的方法旨在通过识别和替换微调过程中生成的语义上不合理的响应来提高大型视觉-语言模型的鲁棒性，从而保持干净的任务性能。与此同时，一种名为SILENTDRIFT的新攻击针对机器人领域使用的视觉-语言-动作模型，利用动作分块来创建视觉上与合法演示无法区分的隐蔽后门攻击。 AI

影响 强调了AI安全方面的持续研究，对模型鲁棒性和关键应用中潜在的对抗性操纵具有影响。

排序理由 两篇研究论文详细介绍了防御和利用AI模型后门攻击的新方法。

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新的AI防御和攻击针对视觉-语言模型

报道来源 [2]

  1. arXiv cs.LG TIER_1 English(EN) · Ivan Saboli\'c, Marin Or\v{s}i\'c, Josip \v{S}ari\'c, Sven Lon\v{c}ari\'c ·

    BYORn：通过引导您自己的响应来防御大型视觉语言模型免受后门攻击

    arXiv:2606.02947v1 Announce Type: new Abstract: Supervised fine-tuning is the predominant approach for adapting autoregressive vision-language models to downstream tasks. Recent work has shown that this paradigm is highly vulnerable to backdoor attacks, and that existing defenses…

  2. arXiv cs.AI TIER_1 English(EN) · Bingxin Xu, Yuzhang Shang, Binghui Wang, Emilio Ferrara ·

    SilentDrift：利用动作分块对视觉-语言-动作模型进行隐蔽后门攻击

    arXiv:2601.14323v2 Announce Type: replace-cross Abstract: Vision-Language-Action (VLA) models are increasingly deployed in safety-critical robotic applications, yet their security vulnerabilities remain underexplored. We identify a fundamental security flaw in modern VLA systems:…

相关实体

相关话题