Sainsbury's 实施了一个人工智能系统来打击盗窃，但该系统错误地将一名付款顾客识别为盗窃者。商店工作人员根据人工智能的错误警报采取了行动，导致了这一事件。该公司将此错误归咎于人为干预，突显了人工智能决策与人类问责之间可能存在的脱节。 AI
影响 突显了在零售环境中部署人工智能进行监控和安保的潜在风险和伦理担忧。
排序理由 该集群描述了公司使用的产品（人工智能系统）及其使用相关的负面结果，符合“工具”类别。
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Sainsbury's installed AI to stop shoplifting. It then wrongly identified a customer who was literally paying for his shopping, and staff followed the machine’s instructions. The company blamed “human error”. The corporate dream: machines make the decisions, humans take the blame.…