Helen Toner
PulseAugur coverage of Helen Toner — every cluster mentioning Helen Toner across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Anthropic 通过操纵概念理解来探测 AI 的内部推理
Anthropic 正在探索其 AI 模型的内部工作原理，特别是关注它们如何得出答案。研究人员已经证明，即使提示或最终输出中不存在某个词，语言模型也能在内部概念化一个答案，例如识别一只蜘蛛。通过操纵这些内部概念，Anthropic 可以改变模型的响应，这表明其内部推理的深度比之前显示的要深。
-
Mira在OpenAI领导层事件中的角色受到审查
Mira，OpenAI的前董事会成员，因其在近期领导层动荡中的角色而受到审查。据报道，她提供了导致Sam Altman最初被解雇的证据，但随后又成为支持他复职的首批签署者之一。这种明显的反复无常引发了对其动机的猜测，一些人认为她缺乏勇气完成罢免，或者Altman可能对她有所制约。
-
人工智能治理辩论：CSET 呼吁对前沿模型进行平衡监管
新兴技术安全中心 (CSET) 就美国政府与 Anthropic 的人工智能模型之间的互动发表了评论。CSET 执行董事 Helen Toner 建议采取平衡的人工智能监管方法，主张一个拥有技术专长的政府机构与人工智能公司合作进行风险管理。这一观点凸显了在开发先进人工智能方面，行业自主权与政府监管之间的持续紧张关系。
-
专家就人工智能迈向通用人工智能的路径展开辩论，并提及“锯齿状智能”
许多专家认为，尽管当前的人工智能系统能够完成诸如解决复杂数学问题等令人印象深刻的任务，但它们尚未达到通用人工智能（AGI）。一个关键的争论点在于，当前的扩展范式是否能够带来真正的通用智能，一些人认为人工智能表现出“锯齿状智能”——在特定领域表现出色，但在基本逻辑方面却失败。关于通用人工智能的定义也存在争议，一些人认为当前的前沿模型已经是经济上可用的通用人工智能，而另一些人则强调其缺乏常识和物理推理能力。
-
美军与7家科技公司合作，将人工智能整合到机密系统中
美国军方已与七家科技公司达成协议，将在机密系统中实施其人工智能解决方案。该举措旨在加强人工智能在关键军事功能中的作用，如决策、后勤和战场作战。专家们强调了人工智能在通过总结复杂信息和分析监视数据以识别目标方面协助人员的潜力。
-
前OpenAI董事会成员警告称，人工智能公司寻求超级智能，敦促国会采取行动
前OpenAI董事会成员Helen Toner表示，人工智能公司正高度专注于创造能够超越人类在所有任务上的能力的机器。她对控制这类先进人工智能系统的能力表示不确定。Toner质疑国会为何尚未对人工智能行业实施重大监管。
-
CSET 主任 Toner 就中国对美国人工智能的“蒸馏攻击”向参议院司法委员会发出警告
乔治城大学新兴技术安全中心（CSET）主任 Helen Toner 在美国参议院司法委员会就中国涉嫌窃取美国人工智能创新一事作证。Toner 强调了中国公司利用美国人工智能模型进行“蒸馏攻击”以推进自身研究的问题。她建议采取更广泛的措施，如威胁情报共享和模型滥用监控来应对这些威胁，同时强调保持美国技术领先地位的必要性。
-
OpenAI 通过关键的技术和政策领域招聘，扩大董事会和领导层
OpenAI 通过增补四名新成员：Adebayo Ogunlesi、Dr. Sue Desmond-Hellmann、Nicole Seligman、Fidji Simo 和 Helen Toner，大幅扩展了其董事会。这些任命带来了金融、全球基础设施、医疗保健、技术和 AI 政策领域的多元化专业知识。此外，OpenAI 首席执行官 Sam Altman 已重返董事会，与现有成员 Bret Taylor 和 Adam D'Angelo…