White Mainstream English

AI检索系统在非裔美国人语言和政治倾向方面表现出偏见

一项发表在arXiv上的新研究表明，密集检索系统会根据用户查询中存在的身份信号表现出偏见。研究人员发现，这些系统倾向于检索与查询的政治倾向相符的文档，并且与白人主流英语（WME）相比，对于使用非裔美国人语言（AAL）编写的查询，其检索表现更差。该研究在政治新闻和消费者健康领域使用了受控的合成查询和自然查询，并采用了五种密集检索器和一种稀疏基线。研究结果表明，这些检索偏见可能会加剧政治极化和健康差距。