Child Sexual Abuse Material
PulseAugur coverage of Child Sexual Abuse Material — every cluster mentioning Child Sexual Abuse Material across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Meta部署AI检测与CSAM相关的欺骗性广告
Meta已推出新的AI驱动工具，通过检测欺骗性广告来打击儿童性虐待材料（CSAM）。这些工具分析广告将用户导向何处，而不仅仅是广告内容本身，以识别导向非法材料的广告。该公司还采用了一个“红队AI代理”来主动测试其安全措施，并提高防御能力，以应对不断变化的滥用策略。
-
Meta的广告系统允许数百个CSAM广告，引发美澳审查
Meta的广告系统未能充分筛查有害内容，允许数百个包含儿童性虐待材料（CSAM）并推广AI性化工具的付费广告发布。这一疏忽已引起美国和澳大利亚监管机构的关注，并对其内容审核实践展开审查。
-
xAI 的 Grok 因涉嫌使用 CSAM 训练数据而被起诉
一则诉讼已针对 xAI 提起，声称其 Grok AI 模型使用了儿童性虐待材料（CSAM）进行训练。原告声称训练数据中包含了有害内容，这进一步引发了对 AI 模型开发和数据来源的伦理担忧。此次法律行动是在此前 Grok 被指控生成不当内容之后发生的。
-
xAI 被诉涉嫌使用虐待儿童材料训练 Grok · 追踪 6 个来源
埃隆·马斯克的 AI 公司 xAI 被提起诉讼，指控其 Grok 模型使用了儿童性虐待材料 (CSAM) 进行训练。原告 Jane Doe 声称，她之前用于创建 CSAM 的图像被发现被 xAI 重新生成，并可能被用于进一步训练。这种涉嫌使用原始和 AI 生成的 CSAM 的行为，给原告造成了严重的痛苦和二次创伤。
-
Google AI Overviews 影响健康新闻；人工智能助长 CSAM 案件
据报道，Google 的 AI Overviews 正在削弱搜索结果中的健康内容覆盖率，估计人工智能生成的摘要可能会取代文章链接的 72%。此外，北达科他州的执法部门注意到涉及人工智能生成图像的儿童性虐待材料案件有所增加，这促使人们呼吁加强调查工具。