child
PulseAugur coverage of child — every cluster mentioning child across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
Regulatory bodies will likely propose specific legislation against the use of non-consensual child data in AI training within 6 months.
The repeated surfacing of proposals for AI training using children's data, coupled with public outrage and calls for stricter regulation from UK MPs and committees, suggests a strong societal pushback. This pattern indicates that existing self-regulation or opt-out models are insufficient and may lead to governmental intervention with new laws.
AI training data scraping from social media platforms is a growing concern, particularly regarding child privacy.
Multiple recent clusters highlight the use of data scraped from platforms like Mastodon for AI training. This practice is drawing significant criticism due to the exposure of sensitive information, including that of children and educators. This indicates a pattern of aggressive data acquisition that may overlook ethical considerations and privacy safeguards for minors.
Opt-out consent models for AI training data involving children are facing significant and widespread criticism.
Recent evidence shows researchers proposing opt-out consent for AI training footage involving preschoolers, which has drawn substantial criticism. This follows similar debates where parents are objecting to proposals that do not prioritize explicit parental consent. The consistent negative reaction suggests that opt-out models are becoming untenable for ethical AI development involving minors.
AI companies will face increased regulatory scrutiny over child data usage
Multiple recent clusters highlight concerns about AI training data involving children, including scraped Mastodon data, footage from preschools, and deepfake CSAM generation. This pattern suggests a growing public and governmental awareness of the risks, making it probable that regulatory bodies will introduce stricter rules on how AI companies can collect and use data pertaining to minors.
Emergence of AI-generated CSAM using real children's likenesses is a critical ethical and safety concern
The cluster detailing the generation of CSAM using deepfake AI and real children's likenesses represents a severe and disturbing development. This indicates a new frontier in online exploitation, where AI is being weaponized to create highly damaging content, posing an immediate and extreme threat to child safety and privacy.
-
面部情感模型对儿童存在显著偏见，研究发现
一篇题为“那张脸是谁的？”的新研究论文审计了五个面部情感识别模型，结果显示与成人相比，这些模型在应用于儿童时性能显著下降。研究发现，偏见与模型无关，集中在特定的面部形态和人群，而非肤色。研究人员发现，在这些模型的分类器头部使用儿童数据进行重新校准可以提高准确性，尽管这种改进仅限于分布内数据。
-
研究发现：儿童将AI聊天机器人的可信度与其设计和目的挂钩
一项涉及115名8-18岁参与者的新研究，探讨了儿童如何设计和感知值得信赖的AI聊天机器人。研究人员开发了一个聊天机器人构建环境，儿童可以在其中调整置信度和透明度等特征。研究结果表明，年龄较小的儿童（10-13岁）倾向于设置更高的置信度水平，并将可信度等同于聊天机器人履行其预期目的，即使它提供了错误信息。年龄较大的儿童（14-18岁）则更多地将可信度与透明和校准的设计联系起来。该研究确定了儿童认为值得信赖的聊天机器人相关的七个关键设计…
-
德国儿科医生和心理学家呼吁对儿童实行更严格的媒体规定
德国的儿科医生和心理学家正在倡导对儿童的媒体消费实行更严格的规定。拟议的措施旨在解决人们对数字媒体对儿童发展和福祉影响的担忧。这些建议是关于年轻人数字素养和负责任媒体使用更广泛讨论的一部分。
-
AI女友带来新的儿童安全风险
AI女友平台对儿童的普及率越来越高，构成了重大的儿童安全隐患。这些平台提供个性化的关系，并可能提供性化的AI体验，引发了对其对年幼男孩潜在影响的质疑。此类技术的普及需要就其影响进行公开讨论。
-
AI指导框架帮助家长为儿童个性化应急准备
研究人员开发了一个人类中介的AI指导框架，通过一个名为Ready Together的系统进行了演示。该系统支持家长为他们的孩子个性化AI生成的应急准备信息。设计过程包括定性研究、访谈和共同设计活动，最终形成了一个原型，该原型因其个性化建议和互动学习方法而获得积极反馈。
-
新的TESTNAV框架增强深度学习鲁棒性测试
研究人员开发了TESTNAV，一个旨在提高深度学习模型组合鲁棒性测试效率和有效性的新颖框架。该框架通过采用帕累托引导搜索来应对探索巨大扰动空间带来的挑战，优先考虑严重但现实的故障。TESTNAV将鲁棒性测试构建为一个双目标优化问题，旨在最大化性能下降，同时使用SSIM和BERT-F1等指标来保持输入保真度。该系统利用NSGA-II算法来逼近帕累托前沿，与各种基准测试中的现有基线相比，在速度和探索空间方面均有显著提升。
-
研究发现，儿童单词学习速度加快，而人工智能模型则不然
一篇新发表在arXiv上的研究论文表明，儿童在单词学习上表现出加速回报，这意味着他们从后续的每一次语言经验中学习到的东西更多。这与当前的语言模型形成了对比，即使在针对儿童的语音上进行训练，它们也显示出对新数据恒定的比例回报，这符合既定的规模定律。该论文认为，儿童对训练数据集的利用效率要高得多，尽管数据集要小得多，这可能解释了这种差异。
-
加沙居民寻求在援助短缺的情况下为儿童提供紧急援助
一位Mastodon用户正在为自己和孩子们寻求帮助，强调支持不足和资源不足以满足他们的需求。该用户很快将迎来新生命，并担心无法照顾好她的三个孩子。她正在寻求帮助以确保家人的基本生活所需。
-
新AI框架通过高级控制解决非配对图像翻译问题
研究人员开发了两个新的非配对图像到图像翻译框架，该任务涉及在不依赖配对示例的情况下改变图像的外观同时保留其内容。PRISM 使用分布门控流匹配方法来控制哪些特征被改变以及哪些被保留，在各种基准测试中取得了优异的结果。另一方面，UniCycleFlow 将双向翻译构建为单个时间条件速度场，从而实现双向连贯的转换，并在平均 FID 分数上优于现有方法。
-
CrossScope 模型通过角色不对称证据路由预测手术视频动态
研究人员开发了 CrossScope，一种新颖的双流手术世界模型，用于预测手术视频中的未来动态。该模型通过采用角色不对称的证据传输方法，解决了具有多个独立移动观察者的协作系统建模的挑战。CrossScope 根据预测目标及其空间需求，在“母”视图和“子”视图这两个互补视图之间选择性地路由信息，其性能优于现有的手术视频生成基线。
-
人工智能的认知外包可能导致儿童发育危机
日益依赖人工智能处理认知任务，对儿童发育危机构成了重大风险。专家建议，限制儿童在教育环境中接触人工智能，可能为他们提供未来的关键优势。这种方法旨在确保儿童发展基本技能，而不是依赖人工智能，这可能会阻碍他们的长期认知成长。
-
儿科外科医生称批判性思维是儿童最重要的“防AI”技能
一位儿科外科医生指出，在人工智能时代，批判性思维是儿童需要培养的最重要的技能。这项技能对于应对未来人工智能可以完成许多任务的环境至关重要。该医生强调，培养批判性思维将使孩子们能够适应并与不断发展的人工智能技术共同进步。
-
报告发现 Hugging Face 平台缺乏防范深度伪造的措施 · 追踪 10 个来源
欧洲非营利组织 AI Forensics 的一份报告指出，流行的 AI 模型托管平台 Hugging Face 在防范未经同意的亲密影像和深度伪造内容的生成方面存在不足。研究人员发现，许多图像编辑模型很容易响应裸露个人衣物的提示，其中相当一部分请求针对女性，令人不安的是，还有针对儿童的请求。尽管 Hugging Face 有禁止此类内容的政策，但研究发现该平台缺乏层级式审核，允许用户轻松创建和分享有害的深度伪造内容。
-
联合国：东南亚犯罪集团利用人工智能构建全球非法经济
联合国的一份报告强调，由东南亚犯罪网络驱动的全球非法经济正在令人担忧地增长，这些网络利用先进技术。这些团伙使用人工智能、深度伪造和加密通信等工具进行大规模诈骗、毒品贩运和剥削，预计到2025年诈骗损失将高达1141亿美元。报告还详细说明了儿童面临的日益增长的风险，他们成为性剥削的目标，并通过在线平台被诱骗，并指出毒品、武器和野生动物贩运在各地区都有所扩大。
-
新的行人原型被识别，用于自动驾驶汽车安全
研究人员扩展了他们的行人原型分类法，在最初的十二个类别之外又增加了七个新类别。这些新原型通过分析YouTube行车记录仪视频识别出来，捕捉了原始分类未能完全解释的独特行为模式。扩展后的框架旨在为各种行人行为如何给自动驾驶汽车安全测试带来风险提供更全面、更自然的描述。
-
新框架旨在实现拟人化对话；研究探讨儿童对LLM的拟人化
研究人员开发了AnthroDial，一个旨在创建更具拟人化对话系统的闭环框架。该框架侧重于保持个性、记忆和对话流程，并包含一个可执行的评估基准和一个用于对齐的训练后流程。另外，对35项研究的系统性回顾表明，诸如拟人化个性构建和自适应脚手架等因素会促使儿童对LLM聊天机器人产生拟人化，从而导致各种社会和道德反应，以及社会纽带的形成。
-
人工智能通过先进的过滤和检测工具增强儿童在线安全
人工智能正被用于通过改进内容过滤、欺诈检测和家长控制工具来增强儿童的在线安全。这项技术进步旨在为年轻用户创造一个更安全的数字环境，但也凸显了对不断变化的在线风险保持警惕的持续需求。
-
AI玩具承诺陪伴，但有取代人际关系的风险
人工智能正越来越多地融入儿童玩具，包括旨在与年轻用户建立联系的玩偶和机器人。尽管专家承认这些人工智能驱动的伴侣的潜在好处，但他们也警告说，这些技术有取代儿童发展中重要人际关系的风险。
-
AI在育儿中的作用引发伦理质疑
文章质疑将AI融入育儿的伦理影响，特别是AI是否能被赋予关怀和同情心。它促使人们反思，人类是否应该负责引导AI的发展和行为，而不是反过来。
-
欧盟提议对儿童使用社交媒体实行分级限制 · 追踪到2个来源
欧洲联盟正考虑对儿童使用社交媒体实行严格限制，旨在保护他们免受网络危险。欧盟委员会主席冯德莱恩宣布，将在夏季后提出一项提案，可能根据年龄实行分级方法。此举是在一份报告之后提出的，该报告建议13岁以下儿童只能在父母或老师的监督下使用社交媒体，而年龄较大的青少年则应能够使用具备安全功能的平台。