child
PulseAugur coverage of child — every cluster mentioning child across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
Regulatory bodies will likely propose specific legislation against the use of non-consensual child data in AI training within 6 months.
The repeated surfacing of proposals for AI training using children's data, coupled with public outrage and calls for stricter regulation from UK MPs and committees, suggests a strong societal pushback. This pattern indicates that existing self-regulation or opt-out models are insufficient and may lead to governmental intervention with new laws.
AI training data scraping from social media platforms is a growing concern, particularly regarding child privacy.
Multiple recent clusters highlight the use of data scraped from platforms like Mastodon for AI training. This practice is drawing significant criticism due to the exposure of sensitive information, including that of children and educators. This indicates a pattern of aggressive data acquisition that may overlook ethical considerations and privacy safeguards for minors.
Opt-out consent models for AI training data involving children are facing significant and widespread criticism.
Recent evidence shows researchers proposing opt-out consent for AI training footage involving preschoolers, which has drawn substantial criticism. This follows similar debates where parents are objecting to proposals that do not prioritize explicit parental consent. The consistent negative reaction suggests that opt-out models are becoming untenable for ethical AI development involving minors.
AI companies will face increased regulatory scrutiny over child data usage
Multiple recent clusters highlight concerns about AI training data involving children, including scraped Mastodon data, footage from preschools, and deepfake CSAM generation. This pattern suggests a growing public and governmental awareness of the risks, making it probable that regulatory bodies will introduce stricter rules on how AI companies can collect and use data pertaining to minors.
Emergence of AI-generated CSAM using real children's likenesses is a critical ethical and safety concern
The cluster detailing the generation of CSAM using deepfake AI and real children's likenesses represents a severe and disturbing development. This indicates a new frontier in online exploitation, where AI is being weaponized to create highly damaging content, posing an immediate and extreme threat to child safety and privacy.
-
AI指导框架帮助家长为儿童个性化应急准备
研究人员开发了一个人类中介的AI指导框架，通过一个名为Ready Together的系统进行了演示。该系统支持家长为他们的孩子个性化AI生成的应急准备信息。设计过程包括定性研究、访谈和共同设计活动，最终形成了一个原型，该原型因其个性化建议和互动学习方法而获得积极反馈。
-
新的TESTNAV框架增强深度学习鲁棒性测试
研究人员开发了TESTNAV，一个旨在提高深度学习模型组合鲁棒性测试效率和有效性的新颖框架。该框架通过采用帕累托引导搜索来应对探索巨大扰动空间带来的挑战，优先考虑严重但现实的故障。TESTNAV将鲁棒性测试构建为一个双目标优化问题，旨在最大化性能下降，同时使用SSIM和BERT-F1等指标来保持输入保真度。该系统利用NSGA-II算法来逼近帕累托前沿，与各种基准测试中的现有基线相比，在速度和探索空间方面均有显著提升。
-
研究发现，儿童单词学习速度加快，而人工智能模型则不然
一篇新发表在arXiv上的研究论文表明，儿童在单词学习上表现出加速回报，这意味着他们从后续的每一次语言经验中学习到的东西更多。这与当前的语言模型形成了对比，即使在针对儿童的语音上进行训练，它们也显示出对新数据恒定的比例回报，这符合既定的规模定律。该论文认为，儿童对训练数据集的利用效率要高得多，尽管数据集要小得多，这可能解释了这种差异。
-
加沙居民寻求在援助短缺的情况下为儿童提供紧急援助
一位Mastodon用户正在为自己和孩子们寻求帮助，强调支持不足和资源不足以满足他们的需求。该用户很快将迎来新生命，并担心无法照顾好她的三个孩子。她正在寻求帮助以确保家人的基本生活所需。
-
新AI框架通过高级控制解决非配对图像翻译问题
研究人员开发了两个新的非配对图像到图像翻译框架，该任务涉及在不依赖配对示例的情况下改变图像的外观同时保留其内容。PRISM 使用分布门控流匹配方法来控制哪些特征被改变以及哪些被保留，在各种基准测试中取得了优异的结果。另一方面，UniCycleFlow 将双向翻译构建为单个时间条件速度场，从而实现双向连贯的转换，并在平均 FID 分数上优于现有方法。
-
CrossScope 模型通过角色不对称证据路由预测手术视频动态
研究人员开发了 CrossScope，一种新颖的双流手术世界模型，用于预测手术视频中的未来动态。该模型通过采用角色不对称的证据传输方法，解决了具有多个独立移动观察者的协作系统建模的挑战。CrossScope 根据预测目标及其空间需求，在“母”视图和“子”视图这两个互补视图之间选择性地路由信息，其性能优于现有的手术视频生成基线。
-
人工智能的认知外包可能导致儿童发育危机
日益依赖人工智能处理认知任务，对儿童发育危机构成了重大风险。专家建议，限制儿童在教育环境中接触人工智能，可能为他们提供未来的关键优势。这种方法旨在确保儿童发展基本技能，而不是依赖人工智能，这可能会阻碍他们的长期认知成长。
-
儿科外科医生称批判性思维是儿童最重要的“防AI”技能
一位儿科外科医生指出，在人工智能时代，批判性思维是儿童需要培养的最重要的技能。这项技能对于应对未来人工智能可以完成许多任务的环境至关重要。该医生强调，培养批判性思维将使孩子们能够适应并与不断发展的人工智能技术共同进步。
-
报告发现 Hugging Face 平台缺乏防范深度伪造的措施 · 追踪 10 个来源
欧洲非营利组织 AI Forensics 的一份报告指出，流行的 AI 模型托管平台 Hugging Face 在防范未经同意的亲密影像和深度伪造内容的生成方面存在不足。研究人员发现，许多图像编辑模型很容易响应裸露个人衣物的提示，其中相当一部分请求针对女性，令人不安的是，还有针对儿童的请求。尽管 Hugging Face 有禁止此类内容的政策，但研究发现该平台缺乏层级式审核，允许用户轻松创建和分享有害的深度伪造内容。
-
联合国：东南亚犯罪集团利用人工智能构建全球非法经济
联合国的一份报告强调，由东南亚犯罪网络驱动的全球非法经济正在令人担忧地增长，这些网络利用先进技术。这些团伙使用人工智能、深度伪造和加密通信等工具进行大规模诈骗、毒品贩运和剥削，预计到2025年诈骗损失将高达1141亿美元。报告还详细说明了儿童面临的日益增长的风险，他们成为性剥削的目标，并通过在线平台被诱骗，并指出毒品、武器和野生动物贩运在各地区都有所扩大。
-
新的行人原型被识别，用于自动驾驶汽车安全
研究人员扩展了他们的行人原型分类法，在最初的十二个类别之外又增加了七个新类别。这些新原型通过分析YouTube行车记录仪视频识别出来，捕捉了原始分类未能完全解释的独特行为模式。扩展后的框架旨在为各种行人行为如何给自动驾驶汽车安全测试带来风险提供更全面、更自然的描述。
-
新框架旨在实现拟人化对话；研究探讨儿童对LLM的拟人化
研究人员开发了AnthroDial，一个旨在创建更具拟人化对话系统的闭环框架。该框架侧重于保持个性、记忆和对话流程，并包含一个可执行的评估基准和一个用于对齐的训练后流程。另外，对35项研究的系统性回顾表明，诸如拟人化个性构建和自适应脚手架等因素会促使儿童对LLM聊天机器人产生拟人化，从而导致各种社会和道德反应，以及社会纽带的形成。
-
人工智能通过先进的过滤和检测工具增强儿童在线安全
人工智能正被用于通过改进内容过滤、欺诈检测和家长控制工具来增强儿童的在线安全。这项技术进步旨在为年轻用户创造一个更安全的数字环境，但也凸显了对不断变化的在线风险保持警惕的持续需求。
-
AI玩具承诺陪伴，但有取代人际关系的风险
人工智能正越来越多地融入儿童玩具，包括旨在与年轻用户建立联系的玩偶和机器人。尽管专家承认这些人工智能驱动的伴侣的潜在好处，但他们也警告说，这些技术有取代儿童发展中重要人际关系的风险。
-
AI在育儿中的作用引发伦理质疑
文章质疑将AI融入育儿的伦理影响，特别是AI是否能被赋予关怀和同情心。它促使人们反思，人类是否应该负责引导AI的发展和行为，而不是反过来。
-
欧盟提议对儿童使用社交媒体实行分级限制 · 追踪到2个来源
欧洲联盟正考虑对儿童使用社交媒体实行严格限制，旨在保护他们免受网络危险。欧盟委员会主席冯德莱恩宣布，将在夏季后提出一项提案，可能根据年龄实行分级方法。此举是在一份报告之后提出的，该报告建议13岁以下儿童只能在父母或老师的监督下使用社交媒体，而年龄较大的青少年则应能够使用具备安全功能的平台。
-
AI辅助虐待以合成图像为目标，男孩成受害者，研究发现
一项最新研究表明，男孩不成比例地受到AI辅助网络性虐待的影响，每二十五个儿童中就有一个成为AI生成的性图像的目标。该研究强调了AI在促进和放大网络剥削方面日益增长的威胁。这一趋势凸显了在有害背景下加强人工智能滥用的安全措施和提高认识的紧迫性。
-
报告警告：儿童采用 AI 的速度是成人的 3 倍 · 已追踪 4 个来源
一份报告显示，儿童采用人工智能技术的速度是成人的三倍，该报告指出社会尚未为这种快速融合做好准备。这种趋势的潜在影响，尤其对年轻一代而言，仍在被理解中。这种广泛的采用凸显了不同年龄群体与新兴技术互动方式的重大转变。
-
张量网络模型增强了对儿童情感记忆的理解
研究人员开发了一种张量网络模型，以更好地理解情感效价如何影响儿童对物体序列的记忆。该模型通过考虑周围物品的情感效价成功预测了回忆准确率，准确率达到77.98%。与传统的心理学模型相比，这种受量子启发的计算方法为分析情感记忆中的顺序依赖现象提供了一种更有效的方法。
-
专家呼吁对人工智能玩具进行监管，以应对隐私风险
人工智能在儿童玩具中的应用引发了重大的隐私和安全担忧，有必要实施监管框架。这些智能玩具可以收集儿童的大量个人数据，如果保护不当则存在风险。专家呼吁出台新法规来解决这些问题，并确保人工智能儿童产品的负责任开发和部署。