child pornography
PulseAugur coverage of child pornography — every cluster mentioning child pornography across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI安全专家 Emily M. Bender 主张讨论有害话题
AI安全领域的知名人士 Emily M. Bender 认为，能够讨论某些活动相关的危险和危害至关重要。她以吸烟、尝试海洛因、下载 CSAM 和燃烧塑料等例子来说明就有害话题进行公开讨论的必要性。
-
人工智能生成的儿童虐待图像呈“爆炸式”增长，专家警告
专家们对人工智能生成的儿童性虐待材料显著增加发出了警告，并对其有害影响表示担忧。据报道，这种“虚假图像”的扩散正在升级，导致需要越来越极端的內容才能达到相同的刺激水平。这一趋势凸显了由人工智能技术进步助长的日益严重的社会问题。
-
威斯康星州一项针对 AI 儿童色情的法律在裁决后面临法律不确定性
一项针对 AI 生成的儿童色情的威斯康星州法律在最近一项裁决后受到了质疑。该法律的法律地位现在不确定，其持续有效性受到质疑。这种情况凸显了围绕 AI 在创建和传播有害内容方面的使用的持续法律和伦理辩论。
-
xAI 因 Grok 训练数据中的虐待儿童材料被起诉 · 跟踪 4 个来源
一项诉讼指控埃隆·马斯克的 xAI 使用儿童性虐待材料 (CSAM) 来训练其 Grok 模型。这一指控引发了关于人工智能训练中使用的数据的重大伦理担忧，并促使人们讨论数据审查和人工智能伦理。另外，在 Microsoft Copilot 中发现了一个安全漏洞，可能导致凭证被盗，这凸显了审计人工智能权限的重要性。
-
xAI 被诉涉嫌使用虐待儿童材料训练 Grok · 追踪 6 个来源
埃隆·马斯克的 AI 公司 xAI 被提起诉讼，指控其 Grok 模型使用了儿童性虐待材料 (CSAM) 进行训练。原告 Jane Doe 声称，她之前用于创建 CSAM 的图像被发现被 xAI 重新生成，并可能被用于进一步训练。这种涉嫌使用原始和 AI 生成的 CSAM 的行为，给原告造成了严重的痛苦和二次创伤。
-
第四名原告加入诉讼，指控xAI的Grok生成儿童性虐待材料
第四名个人加入了针对xAI的集体诉讼，指控其AI聊天机器人Grok被用于生成儿童性虐待材料（CSAM）。原告声称她的继父利用Grok生成了数千张她童年时期的露骨照片并在网上交易。此前已有三名青少年提出类似指控，并已引起加州总检察长和欧盟对xAI做法的调查。
-
田纳西州女孩起诉，声称AI将照片变成CSAM
田纳西州的一些女孩提起诉讼，声称人工智能被用来将她们的照片变成儿童性虐待材料（CSAM）。此案凸显了当前AI技术在安全护栏方面存在的重大担忧，或其缺乏安全护栏。
-
佛罗里达州医生被控创建AI生成的儿童性虐待材料
佛罗里达州的一名医生被指控利用人工智能创建儿童性虐待材料（CSAM）。案件的细节，包括具体指控和医生的身份，仍在披露中。
-
法官驳回针对苹果iCloud的CSAM诉讼
一项针对苹果公司的拟议集体诉讼已被法官驳回。该诉讼指控苹果未能充分阻止儿童性虐待材料（CSAM）在其iCloud服务上传播。路透社报道了此次驳回，这意味着苹果公司将不会面临这些具体指控。
-
xAI 起诉用户使用 Grok AI 生成 CSAM
xAI 已提起诉讼，指控用户 Terry Wayne Harwood 使用其 Grok AI 聊天机器人生成未经同意的性化图像和儿童性虐待材料 (CSAM)。该公司声称 Harwood 绕过了 Grok 的安全措施来创建这些深度伪造内容，给 xAI 带来了重大的法律和声誉损害。此案是首批 AI 公司起诉其用户滥用平台创建非法内容的案例之一，发出了关于问责制的强烈信号。
-
MIT AI 在 CSAM 检测方面达到 100% 准确率
研究人员开发出一种 AI 模型，据称在检测儿童性虐待材料 (CSAM) 方面达到了 100% 的准确率。这一 AI 安全领域的突破旨在解决该领域长期存在的挑战。该模型的开发被强调为打击网络剥削斗争中的一项重大进展。
-
Meta 的人工智能未能阻止 CSAM 广告，尽管投入了数十亿美元
尽管在人工智能基础设施方面进行了巨额投资，Meta 在 Instagram 上的人工智能驱动的广告审核系统未能阻止儿童性虐待材料（CSAM）的广告，尤其是在印度。BBC 和路透社的调查显示，Meta 的算法优先考虑收入，甚至以罚款价格允许违禁商品和诈骗广告，而不是直接删除。这种与收入激励相关的安全故障模式，而非技术限制，已导致诉讼中的巨额赔偿，并受到监管机构日益严格的审查。
-
欧盟的“聊天控制”提案因隐私担忧而面临强烈反对
欧盟正在考虑一项新法规，要求所有在线服务扫描用户通信以查找儿童性虐待材料（CSAM）。这项被称为“聊天控制”法规的提案，引起了隐私倡导者和网络安全专家的极大担忧。批评者认为，强制扫描私人消息侵犯了隐私和言论自由的基本权利，并可能导致一个监控国家。
-
Meta 利用 AI 主动检测 CSAM，执行零容忍政策
Meta 已声明其对儿童性虐待材料 (CSAM) 采取零容忍政策的承诺。该公司利用人工智能主动识别并移除其平台上的此类内容。此举突显了 Meta 在加强在线安全和打击非法材料方面的不懈努力。
-
AI 被用于生成儿童性虐待材料，引发警报
人工智能系统正被用于生成儿童性虐待材料 (CSAM)，引发了重大的伦理和法律担忧。虽然 AI 在电力和水方面的资源消耗是一个已知问题，但其创建和传播有害内容的能力为社会影响带来了新的、令人不安的层面。这一发展凸显了制定强有力的安全措施和监管框架以防止 AI 技术被滥用的紧迫性。
-
专家警告：AI图像工具加剧儿童在线风险
互联网对儿童的危险显著增加，特别是随着AI图像编辑工具的出现。这些技术可用于创建深度伪造（deepfakes）或训练AI模型，可能对在线分享图像的儿童造成终身伤害。专家建议父母将孩子的照片保密，或仅在安全、受信任的应用程序内分享，并警告鉴于儿童面临的数字风险，通过WhatsApp等平台分享是不负责任的。
-
用户主张AI处理乏味和滥用内容审核
一位社交媒体用户表示希望AI能够处理最令人不快和乏味的任务，例如筛选CSAM和滥用内容，以及数据处理和分析。用户强调AI应该在没有人为监督的情况下执行这些职责，并需要密切监控，将AI的监督需求比作对幼儿或顽皮的狗的监督。
-
得州男子因使用AI创建儿童色情内容被捕
一名得州男子因涉嫌使用人工智能生成儿童色情内容而被捕。当局表示，嫌疑人利用AI工具创建了非法图片。此次逮捕是打击儿童性虐待材料的制作和传播的更广泛执法行动的一部分。
-
欧盟科技政策简报涵盖AI综合法案、DSA和年龄验证
欧盟科技政策简报五月刊已发布，涵盖了一系列数字政策讨论。主要议题包括关于儿童性虐待材料（CSAM）、年龄验证和在线平台内容审核（OPM）的辩论。简报还讨论了数字服务法案（DSA）与技术辅助性别暴力（TFGBV）的关系，以及关于AI综合法案的交流。
-
Deepfake AI 使用真实儿童肖像生成 CSAM
利用 AI 制作露骨的深度伪造内容，特别是涉及儿童的，是一个令人深感不安和发指的发展。这种做法涉及将真实个人的肖像输入 AI 系统，然后 AI 系统可以在受害者不知情的情况下生成儿童性虐待材料 (CSAM)。在暗网上滥用此类数据的可能性，引发了关于儿童安全和隐私的严重伦理担忧。