WinoBias

新的ROBIN方法针对Transformer注意力头的偏差

研究人员开发了ROBIN，一种用于在注意力头级别调试和修复Transformer语言模型中偏差的新颖方法。与关注输入-输出或重新训练的现有方法不同，ROBIN针对特定的注意力头，通过对公平性探针的敏感度来识别它们。然后，该方法在推理过程中修改选定头内的少量偏差子空间。对四个模型的初步研究表明，ROBIN在WinoBias基准测试上能有效减少偏差，同时比简单地将整个头归零更能保持语言建模质量。