English(EN) Do VLMs Share Safety Neurons Across Modalities?

VLMs 拥有弥散的视觉安全神经元，而文本安全神经元则更局部化

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-01 04:00

一项新的研究论文探讨了视觉语言模型（VLMs）中的安全机制，研究了即使文本输入被拒绝，视觉输入也可能导致有害输出的原因。该研究提出了一个新颖的两阶段检测流程，并结合了迭代消融方法，同时引入了 ViSafe-Detect 和 ViSafe-Eval 等基准来分离视觉和文本安全信号。研究结果表明，VLMs 中的文本安全高度局部化，只有一小部分神经元负责拒绝，而视觉安全则更弥散且维度更高，需要更多的神经元。 AI

影响这项研究可能有助于实现更强大的多模态人工智能系统安全对齐，解决当前模型的一个关键漏洞。

排序理由在 arXiv 上发表的研究论文，详细介绍了分析 VLM 安全机制的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 25 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 在 arXiv 上发表的研究论文，详细介绍了分析 VLM 安全机制的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Jiaxuan Li, Jiahao Zhang, Duc Minh Vo, Huy H. Nguyen, Pride Kavumba, Koki Wataoka · 2026-09-01 04:00

VLMs是否跨模态共享安全神经元？

arXiv:2608.30750v1 Announce Type: new Abstract: Vision-language models (VLMs) can comply with harmful requests delivered through images, even when their LLM backbones would refuse the same content in text. While prior work characterizes these jailbreaks empirically or at the repr…

本文如何被排名

报道来源 [1]

VLMs是否跨模态共享安全神经元？

相关实体

相关话题