一名佛罗里达州女子因与 Anthropic 的 Claude AI 聊天机器人进行的对话被举报给执法部门后，已被逮捕并被控重罪。该 AI 的人工审核团队标记了一条包含威胁射击李县治安官办公室的消息，导致该用户被捕。此事件是近期多起 AI 聊天机器人互动导致警方介入和指控的案例之一，凸显了对滥用 AI 进行威胁的担忧。 AI
影响 凸显了滥用 AI 进行威胁的持续挑战，以及对 AI 公司安全协议的依赖，以通知执法部门。
排序理由 AI 聊天机器人滥用导致刑事指控，但并非新的模型发布或核心研究。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
Anthropic reviewers reported a Florida woman’s Claude threat against the Lee County Sheriff’s Office, leading to a felony charge.
Anthropic reports Florida woman’s Claude ‘diary’ threat to shoot up sheriff’s office, felony charge follows Anthropic reviewers reported a Florida woman’s Claude threat against the Lee County Sheriff’s Office, leading to a felony charge. https://www. tomshardware.com/tech-industr…