German Federal Employment Agency

AI图像模型显示出人口统计学偏见，新研究发现 · 跟踪4个来源

新研究表明，文本到图像AI模型存在显著的人口统计学偏见，尤其是在物体生成和职业代表方面。研究显示，默认提示通常过度代表中年和白人人口，并且特定的人口统计学线索会触发高度刻板化的输出。虽然一些去偏方法可以减少差异，但它们可能会无意中引入新的偏见形式或减少多样性。研究结果强调了像SODA和BAFIS这样的框架的必要性，这些框架结合了人类反馈，以开发更公平、更具包容性的AI图像生成系统。