FairFace
PulseAugur coverage of FairFace — every cluster mentioning FairFace across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新框架审计AI面部分析中的隐藏公平性风险
研究人员开发了一个名为CIFA（上下文-交叉公平性审计）的新框架，用于识别面部分析系统中隐藏的漏洞。该框架超越了传统的群体公平性指标，还考虑了诸如光照和图像质量等上下文因素，以及这些因素如何与群体属性相互作用。使用ResNet-50和ViT-B/16模型在FairFace和CelebA等数据集上进行的评估显示，被总体准确性和仅基于群体因素的评估所掩盖的性能差异显著。研究还发现，现有的缓解策略并不能持续消除这些隐藏的子群体风险。
-
新的RG-TTA框架选择性地消除视觉语言模型的偏见
研究人员开发了一个名为Reward-Gated Test-Time Adaptation (RG-TTA)的新框架，以解决视觉语言模型（VLMs）中的偏见问题。与之前应用统一去偏的方法不同，RG-TTA使用强化学习根据单个输入查询的敏感性来选择性地调整偏见。这种方法旨在在不牺牲对不敏感查询的效用的情况下，提高对敏感查询的公平性。在FairFace和UTKFace等基准测试上的实验表明，偏见显著减少，并且零样本效用得到提高。
-
新方法探查生成模型中的偏见并提升性能
研究人员开发了新的方法，即归因图（Attribution Graphs, AGs）和因果探查（Causal Probing），来分析生成模型内部的工作机制。这些技术旨在识别和纠正训练过程中出现的虚假关联、人口统计学偏见和不匹配的决策电路等问题。提出的框架还包括一个认知对齐分数（Cognitive Alignment Score, CAS），用于衡量模型表征与人类概念的对齐程度，一个隐私机制，以及一个偏见感知正则化器。在多个数据集上的评…
-
LAION-5B数据集显示出显著的年龄、性别和种族偏见
一项对LAION-5B图像数据集的新分析研究揭示了显著的人口统计学和刻板印象偏见。研究人员发现，该数据集过度代表了年轻成年人、白人和男性，而低估了少数族裔和老年女性。此外，研究还识别出情感与人口统计学之间的刻板印象关联，例如将愤怒与男性联系起来，将快乐与女性联系起来。LAION-5B是广泛使用的训练数据集，其中根深蒂固的不平衡可能会影响众多下游AI系统的行为和输出。