DiveFace

新方法在多个层面检测神经网络中的偏差

研究人员开发了一种新的方法论，用于分析和检测神经网络中的偏差，重点关注三个不同层面：潜在空间、层激活和网络参数。提出的方法 SpaceBias、ActivationBias 和 WeightBias，提供了对偏差如何在内部显现的更详细的理解，超越了传统的黑盒结果评估。在涉及超过 127,000 个训练模型的性别分类和数字识别数据集上进行的实验，证明了这些技术在识别和量化偏差方面的有效性，突显了内部模型行为分析的重要性。