一位名叫Jacob Coxon的研究员从Anthropic辞职,警告称AI开发者真诚地相信该技术可能在十年内导致人类灭绝。Anthropic的对齐科学负责人Evan Hubinger也表达了同样的观点,并引起了政策制定者和Elon Musk等人物的关注。文章将这些担忧追溯到一个特定的互联网亚文化,该亚文化以其理性主义信仰和清晰思考的自我认知而闻名,其校友现在在AI安全和开发组织中担任要职。 AI
影响 强调了来自领先AI实验室内部对AI生存风险的担忧,可能影响公众认知和监管讨论。
排序理由 文章讨论了一位研究员的辞职及其随后关于AI风险的公开声明,并将其置于更广泛的文化和历史背景下,而不是宣布新产品或研究发现。
在 Hacker News — AI stories ≥50 points 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →