在瑞典哥德堡,2020年用于学校招生的一款算法产生了混乱的结果,导致数百名儿童被错误地安置在离家数英里远的地方。该系统旨在提高效率,按直线距离计算,未能考虑到像大河这样的地理障碍,导致通勤不切实际。尽管审计员证实了有缺陷的指令和随后的程序改进,但最初受错误影响的大约700名儿童将在他们不选择的学校度过整个初中生涯。 AI
影响 凸显了在公共服务中部署不透明算法系统的风险以及出现错误时寻求补救的挑战。
排序理由 这篇文章讨论了算法在公共服务中造成损害的具体案例,强调了问责制和系统故障问题,而不是新的模型发布或重大政策转变。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →