deputy of Chile

AI模型的社会关联不能可靠地预测偏见决策

一篇新发表在arXiv上的研究论文，调查了模型对社会关联的编码与其实际决策行为之间的联系。该研究使用智利姓氏作为探针，在包括学术选择、招聘和法律援助在内的各种决策场景中测试了八种不同的AI模型。虽然八种模型中有七种显示出将精英编码的姓氏与高地位相关联的更高概率，但这种关联并未可靠地转化为后果性任务中的偏见决策。研究结果表明，潜在的社会关联与实际决策泄露之间存在分离，这表明评估应直接衡量从关联到行动的转变。