新的PEPPER防御机制可对抗文本到图像模型的后门攻击

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-01 04:00

研究人员开发了一种名为PEPPER（PErcePtion-Guided Perturbation，感知引导扰动）的新防御机制，用于对抗文本到图像扩散模型中的后门攻击。这些攻击通过在提示中嵌入触发器来操纵模型输出，使其产生有害内容。PEPPER通过重写输入标题，使其在视觉上相似但语义上远离原始标题，从而在无需模型重新训练或访问权重的情况下破坏嵌入的触发器。该方法在对抗基于文本编码器的攻击方面表现出特别的有效性，提高了鲁棒性并保持了生成质量，还可以与其他防御措施结合以获得更好的效果。 AI

影响增强了文本到图像生成模型在面对恶意操纵时的安全性和可靠性。

排序理由该集群包含一篇学术论文，详细介绍了防御AI模型特定类型攻击的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 29 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群包含一篇学术论文，详细介绍了防御AI模型特定类型攻击的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Oscar Chew, Po-Yi Lu, Jayden Lin, Kuan-Hao Huang, Hsuan-Tien Lin · 2026-09-01 04:00

PEPPER：文本到图像扩散模型鲁棒后门防御的感知引导扰动

arXiv:2511.16830v4 Announce Type: replace Abstract: Recent studies show that text-to-image (T2I) diffusion models are vulnerable to backdoor attacks, where a trigger in the input prompt can steer generation toward harmful or unintended content. Beyond the trigger token itself, ba…

本文如何被排名

报道来源 [1]

PEPPER：文本到图像扩散模型鲁棒后门防御的感知引导扰动

相关实体

相关话题