English(EN) Analyzing Occupational Gender Bias across the LLM Training Lifecycle

OLMo 3训练生命周期显示女性角色的性别偏见日益增加

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-19 04:00

一篇新论文分析了OLMo 3语言模型在其训练生命周期中的职业性别偏见。研究人员发现，包括监督微调（SFT）、直接偏好优化（DPO）和人类反馈强化学习（RLHF）在内的训练后阶段，并未持续减少性别差异。虽然当明确说明性别时，该模型在男性和女性角色方面表现出相似的叙事多样性，但其自身的假设显示出相对于美国劳动力构成而言，存在一种偏向女性的倾斜，并且每个训练后阶段都加剧了这种偏见。对SFT语料库的分析表明，女性代币存在适度的盈余，不足以解释观察到的下游影响。 AI

影响强调了训练后方法可能无意中加剧LLM中性别偏见的潜力，需要仔细评估。

排序理由学术论文分析开放语言模型中的偏见。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 12 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 学术论文分析开放语言模型中的偏见。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Manthan Gadhia, Alexander Hoyle, Karolina Sta\'nczak · 2026-10-19 04:00

分析大型语言模型训练生命周期中的职业性别偏见

arXiv:2610.23587v1 Announce Type: new Abstract: Post-training is widely assumed to reduce the social biases language models inherit from pretraining, yet direct evidence for this assumption remains mixed. In this paper, we examine how gender disparities evolve across the language…

本文如何被排名

报道来源 [1]

分析大型语言模型训练生命周期中的职业性别偏见

相关实体

相关话题