English(EN) Same Answer, Different Representations: Hidden instability in VLMs

新框架揭示视觉语言模型中的隐藏不稳定性

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-16 04:00

研究人员发现视觉语言模型（VLMs）中存在一种隐藏的不稳定性，而标准的输出级评估无法捕捉到这一点。一个新的评估框架衡量内部嵌入漂移、光谱敏感性和结构平滑度，揭示了模型在保持正确答案的同时，其内部表征可能发生显著变化。研究发现，尽管更大规模的模型准确率更高，但它们对扰动的敏感性相似甚至更高，并且不同任务受这些扰动的影响方式也不同。 AI

影响凸显了当前视觉语言模型评估方法的潜在漏洞，表明需要更强大的测试来确保AI系统的可靠性。

排序理由研究论文发布在arXiv上，详细介绍了一种新的视觉语言模型评估框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 19 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 研究论文发布在arXiv上，详细介绍了一种新的视觉语言模型评估框架。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Farooq Ahmad Wani, Alessandro Suglia, Rohit Saxena, Aryo Pradipta Gema, Wai-Chung Kwan, Fazl Barez, Maria Sofia Bucarelli, Fabrizio Silvestri, Pasquale Minervini · 2026-09-16 04:00

相同答案，不同表征：VLMs中的隐藏不稳定性

arXiv:2602.06652v2 Announce Type: replace Abstract: The robustness of Vision Language Models (VLMs) is commonly assessed through output-level invariance, implicitly assuming that stable predictions reflect stable multimodal processing. In this work, we argue that this assumption …

本文如何被排名

报道来源 [1]

相同答案，不同表征：VLMs中的隐藏不稳定性

相关实体

相关话题