Suryansh Talukdar

新指标衡量AI解释在不同人群中的公平性

研究人员开发了一种新指标 Plausibility-EFG，用于衡量AI模型在不同人群中解释其决策的差异，特别是在仇恨言论检测方面。他们使用 HateXplain 数据集评估了 BERT 和 RoBERTa 等模型，发现对抗训练模型 ADV-RoBERTa 提高了分类性能并减少了解释差异。研究强调，仅关注预测偏差不足以实现解释公平性，而对抗性正则化可以进一步增强公平性，尽管可能会略微牺牲整体准确性。