Meta一直在投放包含人工智能生成的儿童性虐待材料(CSAM)和涉及未成年人的性暗示内容的付费广告。研究人员在Meta的广告库中发现了50多则此类广告,这些广告经过了该公司的审核、批准和变现。尽管Meta此后已删除这些广告并表示正在改进AI检测,但这些广告已存在数月,其中一些广告触及了美国和欧洲的数千个账户。 AI
影响 凸显了AI内容审核中的严重失败以及生成式AI可能被滥用于有害目的的风险。
排序理由 一家主要科技平台涉及人工智能生成有害内容的重大争议。
- Mark Zuckerberg
- Messenger
- Meta
- National Center for Missing and Exploited Children’s CyberTipline
- Tech Transparency Project
- Threads
- child sexual abuse imagery
- National Center for Missing and Exploited Children
AI 生成摘要 · Google Gemini · 来自 6 个来源。 我们如何撰写摘要 →