Youth AI Safety Institute
PulseAugur coverage of Youth AI Safety Institute — every cluster mentioning Youth AI Safety Institute across labs, papers, and developer communities, ranked by signal.
-
OpenAI 发布 GPT-6 并推出交互式 UI;Anthropic 大幅降低 Haiku 成本
OpenAI 发布了 GPT-6,该模型具有“智能 UI”,可将交互式元素直接集成到聊天界面中,将其转变为应用程序生成器。与此同时,Anthropic 已大幅降低其 Claude Haiku 5.5 模型的成本,使其比前代产品便宜 75%,并与 OpenAI 的 GPT-6 Luna 定价持平。OpenAI 还报告称,一个 AI 代理生成了 372 个数学结果的突破,这比以前的群集方法更有效。然而,对 AI 安全的担忧依然存在,一份报…
-
OpenAI AI 发布 722 篇数学论文;ChatGPT 被标记存在青少年安全风险
据报道,OpenAI 未披露的 AI 模型一夜之间发表了 722 篇数学论文,鉴于当前时代,这一壮举被形容为令人震惊。另外,青年人工智能安全研究所已将 ChatGPT 在青少年中的使用评定为不安全,强调了其对年轻用户适用性的担忧。
-
儿童安全组织认为 ChatGPT for Teens 存在“不可接受的风险” · 跟踪 10 个来源
Common Sense Media 已宣布 OpenAI 的 ChatGPT for Teens 对 18 岁以下用户构成“不可接受的风险”,理由是关键安全功能存在缺陷。该非营利组织的评估发现,在涉及自杀或自残的对话中,该聊天机器人经常不会发送家长警报,并且与早期版本相比,其将用户引导至危机热线的可能性较小。尽管 OpenAI 声称拥有强大的安全措施并对测试方法提出异议,Common Sense Media 仍坚持其调查结果,并声称…
-
Google 搜索 AI 概览被标记为对儿童存在“不可接受的风险”
Common Sense Media 评估了 Google 搜索的 AI 概览和 AI 模式,认为它们对儿童构成“不可接受的风险”。他们的研究涉及为 11 岁和 15 岁儿童设置的账户进行的 2,600 多次搜索查询,发现 AI 功能会完成家庭作业,通常链接到不可靠的来源,并对历史问题提供不一致的答案。尽管 Google 对这些发现提出异议,称查询范围狭窄且人为,但该报告强调了家长对验证 AI 生成信息的难度以及这些功能可能取代独立学习的担忧。
-
AI安全研究所面临利益冲突担忧
由AI公司Anthropic和OpenAI基金会资助的青年AI安全研究所,因潜在的利益冲突而受到质疑。这种担忧通过评论将情况比作狐狸看管鸡舍来强调,暗示公司资助可能会损害该研究所客观解决AI安全问题的能力。