来自北卡罗来纳州夏洛特的Jalil Richardson因面部识别AI的错误识别而被错误逮捕并拘留了一个多月。该AI以85%的置信度将他的图像与一起汽车盗窃案的嫌疑人匹配,导致他被捕,随后失去了工作、住房和两个孩子的监护权。尽管一年后他被洗清罪名并撤销了指控,Richardson仍在寻求正义,他声称杰克逊维尔治安官办公室存在种族定性以及调查不力的问题,该办公室表示AI只是调查中使用的众多工具之一。 AI
影响 凸显了在执法中使用的AI系统进行严格监督和提高准确性的关键需求,以防止严重侵犯人权的行为。
排序理由 AI技术导致错误逮捕和严重个人后果的重大现实后果。
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →