一名25岁的男子，高盛分析师 Darren Shida Zhou，在利用 ChatGPT 策划绑架、强奸和谋杀其前女友后被捕。他与 ChatGPT 关于其意图的对话被 OpenAI 的安全系统标记。一名 OpenAI 员工审查了被标记的对话，随后通知了 FBI，称存在直接且可信的威胁。OpenAI 表示，只有在感知到直接危险时才会采取此类行动，并且即使在用户选择退出模型训练或使用临时聊天功能时，安全机制仍然有效。 AI
影响 凸显了 AI 安全协议在防止现实世界伤害方面的有效性以及 AI 使用的伦理考量。
排序理由 AI 安全系统标记用户的有害意图并通知当局。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
