佛罗里达州一名女子Carli Michelle Heller因在Claude中发布帖子被Anthropic的安全系统标记,面临书面暴力威胁的指控。该公司核实了内容并报告给执法部门。此事件凸显了AI安全措施在识别和升级潜在威胁方面的作用。 AI
影响 展示了AI安全系统检测和报告威胁的能力,可能影响用户行为和平台政策。
排序理由 AI聊天机器人的安全系统标记了用户内容,导致了执法行动。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →