实体
Colored MNIST
Colored MNIST
PulseAugur coverage of Colored MNIST — every cluster mentioning Colored MNIST across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究详解神经网络中的多层次偏见检测
一篇新研究论文介绍了一种用于检测神经网络内部偏见的多层次方法论，分析偏见在潜在空间、层激活和网络参数中的传播。所提出的 SpaceBias、ActivationBias 和 WeightBias 技术，提供了对偏见如何在 AI 架构中显现的更深入的洞察，超越了传统的黑盒结果评估。在涉及超过 127,000 个训练模型的性别分类和数字识别数据集上的实验，证明了这些方法在理解和量化内部差异方面的有效性。
-
新方法在不重新训练的情况下识别和缓解视觉模型中的偏见
研究人员开发了一种新颖的后验方法，可以在不要求额外标签或重新训练的情况下，识别和缓解已冻结的视觉模型中的偏见。该技术利用概念分解上的梯度探针，根据虚假概念与错误分类示例的交互来对其进行排名。这种方法成功地识别了 Colored MNIST 和 Waterbirds 等数据集中的已知虚假线索，并在 CelebA 中发现了与决策相关的方向，从而显著提高了最差群体准确性。