English(EN) Token by Token, Compromised: Backdoor Vulnerabilities in Unified Autoregressive Models

新型后门攻击针对多模态 AI 模型

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-09 04:00

研究人员发现了一种新型后门漏洞，称为 ToBAC，专门针对统一自回归模型 (UAM)。这些模型能够生成文本和图像 token，容易受到多模态后门攻击，其中微妙的触发器可以操纵不同模态的输出。ToBAC 攻击可以通过数据投毒或模型投毒来实现，导致有害或有偏见的内容生成。实验显示成功率很高，其中一项攻击在 Liquid 模型中影响了 55% 的品牌推广或意识形态内容生成，另一项通过数据投毒在 JanusPro 上取得了 63.1% 的成功率。 AI

影响凸显了多模态 AI 中潜在的安全风险，需要新的防御策略。

排序理由学术论文，详细介绍了 AI 模型中的一种新型漏洞。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 15 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 学术论文，详细介绍了 AI 模型中的一种新型漏洞。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Tobias Braun, Jonas Henry Grebe, Hossein Shakibania, Anna Rohrbach, Marcus Rohrbach · 2026-10-09 04:00

逐个 token 被攻破：统一自回归模型中的后门漏洞

arXiv:2605.19227v2 Announce Type: replace-cross Abstract: Unified autoregressive models (UAMs) are transformer models that generate text as well as image tokens within a single autoregressive pass. Shared parameters and a multimodal vocabulary simplify the training pipeline and f…

本文如何被排名

报道来源 [1]

逐个 token 被攻破：统一自回归模型中的后门漏洞

相关实体

相关话题