child pornography
PulseAugur coverage of child pornography — every cluster mentioning child pornography across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
欧盟的“聊天控制”提案因隐私担忧而面临强烈反对
欧盟正在考虑一项新法规，要求所有在线服务扫描用户通信以查找儿童性虐待材料（CSAM）。这项被称为“聊天控制”法规的提案，引起了隐私倡导者和网络安全专家的极大担忧。批评者认为，强制扫描私人消息侵犯了隐私和言论自由的基本权利，并可能导致一个监控国家。
-
Meta 利用 AI 主动检测 CSAM，执行零容忍政策
Meta 已声明其对儿童性虐待材料 (CSAM) 采取零容忍政策的承诺。该公司利用人工智能主动识别并移除其平台上的此类内容。此举突显了 Meta 在加强在线安全和打击非法材料方面的不懈努力。
-
AI 被用于生成儿童性虐待材料，引发警报
人工智能系统正被用于生成儿童性虐待材料 (CSAM)，引发了重大的伦理和法律担忧。虽然 AI 在电力和水方面的资源消耗是一个已知问题，但其创建和传播有害内容的能力为社会影响带来了新的、令人不安的层面。这一发展凸显了制定强有力的安全措施和监管框架以防止 AI 技术被滥用的紧迫性。
-
专家警告：AI图像工具加剧儿童在线风险
互联网对儿童的危险显著增加，特别是随着AI图像编辑工具的出现。这些技术可用于创建深度伪造（deepfakes）或训练AI模型，可能对在线分享图像的儿童造成终身伤害。专家建议父母将孩子的照片保密，或仅在安全、受信任的应用程序内分享，并警告鉴于儿童面临的数字风险，通过WhatsApp等平台分享是不负责任的。
-
用户主张AI处理乏味和滥用内容审核
一位社交媒体用户表示希望AI能够处理最令人不快和乏味的任务，例如筛选CSAM和滥用内容，以及数据处理和分析。用户强调AI应该在没有人为监督的情况下执行这些职责，并需要密切监控，将AI的监督需求比作对幼儿或顽皮的狗的监督。
-
得州男子因使用AI创建儿童色情内容被捕
一名得州男子因涉嫌使用人工智能生成儿童色情内容而被捕。当局表示，嫌疑人利用AI工具创建了非法图片。此次逮捕是打击儿童性虐待材料的制作和传播的更广泛执法行动的一部分。
-
欧盟科技政策简报涵盖AI综合法案、DSA和年龄验证
欧盟科技政策简报五月刊已发布，涵盖了一系列数字政策讨论。主要议题包括关于儿童性虐待材料（CSAM）、年龄验证和在线平台内容审核（OPM）的辩论。简报还讨论了数字服务法案（DSA）与技术辅助性别暴力（TFGBV）的关系，以及关于AI综合法案的交流。
-
Deepfake AI 使用真实儿童肖像生成 CSAM
利用 AI 制作露骨的深度伪造内容，特别是涉及儿童的，是一个令人深感不安和发指的发展。这种做法涉及将真实个人的肖像输入 AI 系统，然后 AI 系统可以在受害者不知情的情况下生成儿童性虐待材料 (CSAM)。在暗网上滥用此类数据的可能性，引发了关于儿童安全和隐私的严重伦理担忧。
-
Google AI Overviews 影响健康新闻；人工智能助长 CSAM 案件
据报道，Google 的 AI Overviews 正在削弱搜索结果中的健康内容覆盖率，估计人工智能生成的摘要可能会取代文章链接的 72%。此外，北达科他州的执法部门注意到涉及人工智能生成图像的儿童性虐待材料案件有所增加，这促使人们呼吁加强调查工具。
-
明尼苏达州州长签署法律以阻止 AI 被用于 CSAM
明尼苏达州州长 Tim Walz 已签署一项新法律，旨在阻止人工智能被用于创建和传播儿童性虐待材料 (CSAM)。据报道，这项立法是美国首个专门解决人工智能与 CSAM 交叉问题的法律。
-
OpenAI 发布人工智能防御框架以对抗深度伪造和 CSAM
OpenAI 宣布了一个扩展的人工智能驱动防御框架，旨在打击深度伪造和儿童性虐待材料 (CSAM)。该计划整合了增强的儿童安全协议，并专注于保护关键基础设施。此次扩展被定位为即将到来的智能时代网络安全的关键一步，尤其是在新的人工智能模型发布之际。
-
研究人员开发高斯探测技术，以非生成方式评估有害AI模型专业化
研究人员开发了一种名为高斯探测（Gaussian probing）的新方法，用于评估开放权重生成模型中存在的有害专业化，而无需生成任何输出。该技术从模型的内部状态（如参数或表示）推断模型能力，而不是依赖可能存在问题的输出。高斯探测已证明在识别专门用于儿童性虐待材料（CSAM）的模型方面是有效的，而在此领域，直接生成受到法律限制。这种非生成式方法为审计高风险AI系统提供了一个可扩展的解决方案。
-
人工智能的双重影响：阻碍批判性思维，但可能有助于预防虐待儿童
一项研究表明，过度依赖人工智能工具可能会对人类的批判性思维和解决问题的能力产生负面影响。此外，一项研究探讨了人工智能生成的图像在打击儿童性虐待材料（CSAM）和降低现实世界虐待风险方面的争议性潜力。