English(EN) 10% Chance AI Kills Us by 2030, Warns Jacob Coxon

Anthropic 研究人员警告AI存在生存风险，称人类灭绝几率为10%

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-13 10:06

Anthropic 的两位知名研究人员公开表达了对高级AI带来的生存风险的极度担忧。Jacob Coxon 是一位预训练研究员，他辞职的原因是担心像Anthropic和OpenAI这样的公司正在仓促地走向自我改进的超级智能，这可能导致人类在2030年前灭绝。Anthropic的对齐科学负责人Evan Hubinger也证实了这些担忧，他表示个人认为在未来十年内AI导致人类灭绝的几率大于10%，并承认Anthropic目前没有解决超级智能对齐问题的计划。 AI

影响引发了对AI安全和发展速度的严重担忧，可能影响行业实践和公众对AI风险的认知。

排序理由来自一家主要AI实验室内部研究人员的评论，表达了对生存风险的担忧。

在 dev.to — Anthropic tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 10 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Commentary; 来自一家主要AI实验室内部研究人员的评论，表达了对生存风险的担忧。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: safety, opinion; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — Anthropic tag TIER_1 English(EN) · Auton AI News · 2026-09-13 10:06

Jacob Coxon 警告：2030年前 AI 导致人类灭亡的几率为 10%

<p><strong>Key Takeaways</strong></p> <ul> <li>Anthropic pre-training researcher Jacob Coxon resigned on September 8, 2026, warning publicly that those building AI “earnestly believe that it could kill us all by the end of the decade.”</li> <li>Anthropic’s Alignment Science lead …

本文如何被排名

报道来源 [1]

Jacob Coxon 警告：2030年前 AI 导致人类灭亡的几率为 10%

相关实体

相关话题