English(EN) Anthropic's alignment lead says the company has no plan for superintelligence

Anthropic 对齐研究负责人承认没有超级智能计划，称灭绝风险 >10%

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-09 20:59

Anthropic 的对齐科学负责人 Evan Hubinger 表示，该公司目前没有应对超级智能对齐问题的计划，也无望制定出这样的计划。Hubinger 个人认为，在未来十年内，人工智能导致人类灭绝的几率大于 10%。此前，一位预训练研究员公开辞职，批评 OpenAI 和 Anthropic 在追求超级智能方面存在鲁莽行为。 AI

影响引发了对领先人工智能实验室安全性和长期规划的担忧，可能影响公众和监管机构对人工智能发展的看法。

排序理由一位内部员工关于公司计划和个人风险评估的声明，而非官方公司发布或研究论文。

在 dev.to — Anthropic tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 10 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Commentary; 一位内部员工关于公司计划和个人风险评估的声明，而非官方公司发布或研究论文。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: safety, opinion; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — Anthropic tag TIER_1 English(EN) · Breach Protocol · 2026-09-09 20:59

Anthropic 的对齐负责人表示该公司无意开发超级智能

<p>Evan Hubinger, who leads alignment science at Anthropic, said publicly on 9 September 2026 that his employer does "not yet have a plan to solve alignment for superintelligence and are not clearly on track to," and that he personally puts the odds of AI killing all humans withi…

本文如何被排名

报道来源 [1]

Anthropic 的对齐负责人表示该公司无意开发超级智能

相关实体

相关话题