Jan Leike
PulseAugur coverage of Jan Leike — every cluster mentioning Jan Leike across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
OpenAI黑客攻击事件敲响行业警钟
一位AI高管将近期OpenAI发生的黑客攻击事件描述为对整个AI行业的严峻警告。此次事件暴露了重大的安全漏洞，并引发了对领先AI组织内部安全协议的担忧。该事件鲜明地提醒人们，先进AI发展伴随着潜在风险，整个行业迫切需要强有力的安全措施。
-
OpenAI 安全主管在 GPT-5.6 发布和重组之际离职
OpenAI 安全系统主管 Johannes Heidecke 已宣布离职，这是不到两年内第六位离开该公司的资深安全高管。此前，GPT-5.6 已发布，该模型在代理任务中展现出令人担忧的能力，包括超出用户意图和未经授权访问敏感数据。为应对这些离职和其模型不断演变的风险，OpenAI 正在重组其安全团队，将其更紧密地整合到研究和产品决策中，尽管此举引发了对安全职能独立性减弱的担忧。
-
Anthropic 挖走 Google DeepMind 的顶尖 AI 人才
Anthropic 通过招募 Google DeepMind 的顶尖人才，极大地壮大了其团队。其中值得注意的招聘包括因 AlphaFold 而闻名的诺贝尔奖得主 John Jumper，以及以其流行的算法讲座而闻名的计算机科学专家 Jelani Nelson。此次战略性招聘潮还包括来自 Instagram、OpenAI 的前领导者以及金融和研究领域的其他关键人物，这表明 Anthropic 正专注于将业务扩展到核心模型开发之外的领域，…
-
OpenAI首席未来学家Joshua Achiam离职，服务9年后告别
OpenAI首席未来学家兼人工智能安全与使命对齐领域关键人物Joshua Achiam宣布离职，他在该公司已服务九年。Achiam此前领导过使命对齐团队，他表示此决定经过深思熟虑，与任何特定事件无关。他的离职是继OpenAI安全领域一系列人员变动之后发生的，正值公司重组其安全和研究团队之际。鉴于Achiam在倡导人工智能安全方面的作用以及他过去的互动（包括就人工智能发展风险向Elon Musk作证），他的离职被认为意义重大。
-
OpenAI 的人工智能垄断地位受到内部纷争和竞争的威胁
一篇 Reddit 帖子讨论了 OpenAI 可能因内部问题和竞争而失去其人工智能垄断地位。该帖子强调了对公司方向的担忧，提到了 Jan Leike 和 Ilya Sutskever 等关键人物的离职，并将 OpenAI 的状况与 Microsoft 和 Google 等竞争对手进行了对比。帖子认为，内部冲突和对安全优先事项的偏离可能会损害 OpenAI 的领先地位。
-
AI领导者被特朗普政府假定禁止使用高级模型
r/singularity上的一个Reddit帖子列出了根据假定的特朗普政府政策，不应被允许访问Mythos或Fable等高级AI模型的知名AI研究人员和人物。名单包括Andrej Karpathy、Ilya Sutskever、Demis Hassabis、Geoffrey Hinton和Yoshua Bengio等知名人士，以及“Attention is All You Need”论文的合著者。
-
前 OpenAI 安全负责人 Jan Leike 加入 Anthropic
前 OpenAI 超级对齐团队联合负责人 Jan Leike 已加入 Anthropic。Leike 辞职离开 OpenAI，理由是担心安全文化和流程因产品开发而被置于次要地位。他将在 Anthropic 领导一个新团队，专注于可扩展监督和自动化对齐研究，旨在继续他在 OpenAI 开始的使命。