English(EN) When Pointing Becomes Profiling: Social Bias and Refusal in Text-Steerable Visual Encoders

研究人员发现文本可控视觉编码器存在社会偏见

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-27 04:00

研究人员在文本可控视觉编码器（特别是SteerViT模型）中发现了显著的社会偏见。这些模型旨在根据文本提示指向图像区域，但研究发现它们会表现出人口统计学画像特征，在涉及“某人”的提示时不成比例地选择男性，在涉及犯罪相关术语时则选择黑人个体。研究追溯到模型的交叉注意力层发现了这种偏见，基础模型或其他经过测试的地面模型（如CLIPSeg和Grounding DINO）则不存在此偏见。为解决这些问题，开发了一种名为SafeSteer的新方法，该方法结合了弃权能力和反事实不变性训练，在保持定位精度的同时显著提高了对敏感提示的拒绝率。 AI

影响凸显了多模态AI中关键的安全和偏见问题，需要开发新的鲁棒拒绝机制。

排序理由学术论文，详细介绍了一项新发现和提出的解决方案。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 10 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 学术论文，详细介绍了一项新发现和提出的解决方案。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CV TIER_1 English(EN) · Seyedarmin Azizi, Parsa Razmara, Sajjad Ghiasvand, Ardalan Aryashad, Tina Khezresmaeilzadeh · 2026-10-27 04:00

当指点变成画像：文本可控视觉编码器中的社会偏见与拒绝

arXiv:2610.35017v1 Announce Type: new Abstract: Text-steerable visual encoders condition a frozen Vision Transformer on a natural-language prompt and point at the matching image region, producing prompt-conditioned heatmaps and features. We audit the released SteerViT model and f…

本文如何被排名

报道来源 [1]

当指点变成画像：文本可控视觉编码器中的社会偏见与拒绝

相关实体

相关话题