child pornography
PulseAugur coverage of child pornography — every cluster mentioning child pornography across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
第四名原告加入诉讼，指控xAI的Grok生成儿童性虐待材料
第四名个人加入了针对xAI的集体诉讼，指控其AI聊天机器人Grok被用于生成儿童性虐待材料（CSAM）。原告声称她的继父利用Grok生成了数千张她童年时期的露骨照片并在网上交易。此前已有三名青少年提出类似指控，并已引起加州总检察长和欧盟对xAI做法的调查。
-
田纳西州女孩起诉，声称AI将照片变成CSAM
田纳西州的一些女孩提起诉讼，声称人工智能被用来将她们的照片变成儿童性虐待材料（CSAM）。此案凸显了当前AI技术在安全护栏方面存在的重大担忧，或其缺乏安全护栏。
-
佛罗里达州医生被控创建AI生成的儿童性虐待材料
佛罗里达州的一名医生被指控利用人工智能创建儿童性虐待材料（CSAM）。案件的细节，包括具体指控和医生的身份，仍在披露中。
-
法官驳回针对苹果iCloud的CSAM诉讼
一项针对苹果公司的拟议集体诉讼已被法官驳回。该诉讼指控苹果未能充分阻止儿童性虐待材料（CSAM）在其iCloud服务上传播。路透社报道了此次驳回，这意味着苹果公司将不会面临这些具体指控。
-
xAI 起诉用户使用 Grok AI 生成 CSAM
xAI 已提起诉讼，指控用户 Terry Wayne Harwood 使用其 Grok AI 聊天机器人生成未经同意的性化图像和儿童性虐待材料 (CSAM)。该公司声称 Harwood 绕过了 Grok 的安全措施来创建这些深度伪造内容，给 xAI 带来了重大的法律和声誉损害。此案是首批 AI 公司起诉其用户滥用平台创建非法内容的案例之一，发出了关于问责制的强烈信号。
-
MIT AI 在 CSAM 检测方面达到 100% 准确率
研究人员开发出一种 AI 模型，据称在检测儿童性虐待材料 (CSAM) 方面达到了 100% 的准确率。这一 AI 安全领域的突破旨在解决该领域长期存在的挑战。该模型的开发被强调为打击网络剥削斗争中的一项重大进展。
-
Meta 的人工智能未能阻止 CSAM 广告，尽管投入了数十亿美元
尽管在人工智能基础设施方面进行了巨额投资，Meta 在 Instagram 上的人工智能驱动的广告审核系统未能阻止儿童性虐待材料（CSAM）的广告，尤其是在印度。BBC 和路透社的调查显示，Meta 的算法优先考虑收入，甚至以罚款价格允许违禁商品和诈骗广告，而不是直接删除。这种与收入激励相关的安全故障模式，而非技术限制，已导致诉讼中的巨额赔偿，并受到监管机构日益严格的审查。
-
欧盟的“聊天控制”提案因隐私担忧而面临强烈反对
欧盟正在考虑一项新法规，要求所有在线服务扫描用户通信以查找儿童性虐待材料（CSAM）。这项被称为“聊天控制”法规的提案，引起了隐私倡导者和网络安全专家的极大担忧。批评者认为，强制扫描私人消息侵犯了隐私和言论自由的基本权利，并可能导致一个监控国家。
-
Meta 利用 AI 主动检测 CSAM，执行零容忍政策
Meta 已声明其对儿童性虐待材料 (CSAM) 采取零容忍政策的承诺。该公司利用人工智能主动识别并移除其平台上的此类内容。此举突显了 Meta 在加强在线安全和打击非法材料方面的不懈努力。
-
AI 被用于生成儿童性虐待材料，引发警报
人工智能系统正被用于生成儿童性虐待材料 (CSAM)，引发了重大的伦理和法律担忧。虽然 AI 在电力和水方面的资源消耗是一个已知问题，但其创建和传播有害内容的能力为社会影响带来了新的、令人不安的层面。这一发展凸显了制定强有力的安全措施和监管框架以防止 AI 技术被滥用的紧迫性。
-
专家警告：AI图像工具加剧儿童在线风险
互联网对儿童的危险显著增加，特别是随着AI图像编辑工具的出现。这些技术可用于创建深度伪造（deepfakes）或训练AI模型，可能对在线分享图像的儿童造成终身伤害。专家建议父母将孩子的照片保密，或仅在安全、受信任的应用程序内分享，并警告鉴于儿童面临的数字风险，通过WhatsApp等平台分享是不负责任的。
-
用户主张AI处理乏味和滥用内容审核
一位社交媒体用户表示希望AI能够处理最令人不快和乏味的任务，例如筛选CSAM和滥用内容，以及数据处理和分析。用户强调AI应该在没有人为监督的情况下执行这些职责，并需要密切监控，将AI的监督需求比作对幼儿或顽皮的狗的监督。
-
得州男子因使用AI创建儿童色情内容被捕
一名得州男子因涉嫌使用人工智能生成儿童色情内容而被捕。当局表示，嫌疑人利用AI工具创建了非法图片。此次逮捕是打击儿童性虐待材料的制作和传播的更广泛执法行动的一部分。
-
欧盟科技政策简报涵盖AI综合法案、DSA和年龄验证
欧盟科技政策简报五月刊已发布，涵盖了一系列数字政策讨论。主要议题包括关于儿童性虐待材料（CSAM）、年龄验证和在线平台内容审核（OPM）的辩论。简报还讨论了数字服务法案（DSA）与技术辅助性别暴力（TFGBV）的关系，以及关于AI综合法案的交流。
-
Deepfake AI 使用真实儿童肖像生成 CSAM
利用 AI 制作露骨的深度伪造内容，特别是涉及儿童的，是一个令人深感不安和发指的发展。这种做法涉及将真实个人的肖像输入 AI 系统，然后 AI 系统可以在受害者不知情的情况下生成儿童性虐待材料 (CSAM)。在暗网上滥用此类数据的可能性，引发了关于儿童安全和隐私的严重伦理担忧。
-
Google AI Overviews 影响健康新闻；人工智能助长 CSAM 案件
据报道，Google 的 AI Overviews 正在削弱搜索结果中的健康内容覆盖率，估计人工智能生成的摘要可能会取代文章链接的 72%。此外，北达科他州的执法部门注意到涉及人工智能生成图像的儿童性虐待材料案件有所增加，这促使人们呼吁加强调查工具。
-
明尼苏达州州长签署法律以阻止 AI 被用于 CSAM
明尼苏达州州长 Tim Walz 已签署一项新法律，旨在阻止人工智能被用于创建和传播儿童性虐待材料 (CSAM)。据报道，这项立法是美国首个专门解决人工智能与 CSAM 交叉问题的法律。
-
OpenAI 发布人工智能防御框架以对抗深度伪造和 CSAM
OpenAI 宣布了一个扩展的人工智能驱动防御框架，旨在打击深度伪造和儿童性虐待材料 (CSAM)。该计划整合了增强的儿童安全协议，并专注于保护关键基础设施。此次扩展被定位为即将到来的智能时代网络安全的关键一步，尤其是在新的人工智能模型发布之际。
-
研究人员开发高斯探测技术，以非生成方式评估有害AI模型专业化
研究人员开发了一种名为高斯探测（Gaussian probing）的新方法，用于评估开放权重生成模型中存在的有害专业化，而无需生成任何输出。该技术从模型的内部状态（如参数或表示）推断模型能力，而不是依赖可能存在问题的输出。高斯探测已证明在识别专门用于儿童性虐待材料（CSAM）的模型方面是有效的，而在此领域，直接生成受到法律限制。这种非生成式方法为审计高风险AI系统提供了一个可扩展的解决方案。
-
人工智能的双重影响：阻碍批判性思维，但可能有助于预防虐待儿童
一项研究表明，过度依赖人工智能工具可能会对人类的批判性思维和解决问题的能力产生负面影响。此外，一项研究探讨了人工智能生成的图像在打击儿童性虐待材料（CSAM）和降低现实世界虐待风险方面的争议性潜力。