马里兰州四名学生正在起诉开发AI枪支检测系统的公司Omnilert以及当地警方和学校官员,此前该AI错误地将一袋多力多滋识别为枪支。这一虚假警报导致学生被武装警察拘留,给他们造成了巨大的痛苦和恐惧。诉讼声称,由于技术和人为错误,导致了非法拘留和搜查,并指出该AI系统在该学区产生了高比例的误报。 AI
影响 凸显了AI误识别在公共安全方面的风险,以及对AI系统进行健全监督和纠错的必要性。
排序理由 因AI产品故障及当局涉嫌滥用而对AI产品提起诉讼。
- Baltimore County Police Department
- Baltimore County Public Schools
- Lawyers' Committee for Civil Rights Under Law
- Maryland
- New York Times
- Omnilert
- Omnilert Gun Detect
- Taki Allen
- The Baltimore Banner
- The Guardian
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →