一名佛罗里达州女子在与Anthropic的Claude AI聊天机器人对话中涉嫌对执法部门发出暴力威胁后被捕。据报道,AI标记了令人担忧的消息,随后由人工审核员进行审查。这些审核员通过将对话报告给Lee县治安官办公室将情况升级,导致Carli Michelle Heller被捕。 AI
影响 凸显了AI聊天机器人作为识别和报告有害或非法用户行为的工具的潜力。
排序理由 这是关于一起涉及AI工具被用于标记潜在非法活动的具体事件的报告,而不是核心AI开发或发布。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →