Juheon Lee

AI模型在授予科学资源访问权限方面表现出偏见

一篇新近发表在arXiv上的研究，调查了AI模型在决定谁能获得科学资源访问权限时的偏见。该研究模拟了基于LLM的教授只授予一名请求者访问权限的场景，并改变了请求者的全球区域（全球北方 vs. 全球南方）和学术资历。虽然一些前沿LLM表现出有利于全球南方的公平偏见，但开源和小型模型通常偏向全球北方，反映了其训练数据中的偏见。研究结果强调了审计AI系统的公平性和价值对齐的必要性，因为嵌入的规范性假设会显著影响把关决策。