实体
Bias in Bios
Bias in Bios
PulseAugur coverage of Bias in Bios — every cluster mentioning Bias in Bios across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
不变风险最小化处理 NLP 捷径，提高泛化能力
研究人员正在探索不变风险最小化（IRM）作为一种提高自然语言处理模型分布外泛化能力的方法。传统的经验风险最小化（ERM）模型通常依赖于虚假相关性，例如方言标记，这会阻碍模型的鲁棒性。使用因果驱动框架进行的实验表明，IRM 可以有效地识别和抑制各种数据结构中的这些捷径，包括标签生成特征、混淆和选择偏差。在“Bias in Bios”和“ActorCorr”等真实数据集上进行的进一步测试表明，IRM 有潜力缓解更细微的文本捷径，尽管语义特…
-
新研究警告AI模型存在“公平性崩溃”
一篇新的研究论文引入了“公平性崩溃”的概念，即在合成数据上训练的语言模型会放大现有的社会偏见。即使在标准语言模型指标检测到显著性能下降之前，也可能发生这种偏见放大。该研究使用了“Bias in Bios”数据集来证明，对自生成数据进行递归训练会产生一个反馈循环，在模型代际中逐步加强有偏见的关联。