顶尖 AI 研究人员正在公开辩论高级 AI 导致人类灭绝的重大风险,一些人估计的概率高达 20% 或更高。这场此前仅限于小圈子讨论的辩论,在一位研究员辞职并获得 Anthropic 的 Alignment Science 主管公开支持后,引起了广泛关注。担忧的范围从 AI 能够发动灾难性的网络攻击或生物武器,到超级智能系统逃脱人类控制,尤其是在 AI 能力飞速发展之际。 AI
影响 提高公众对 AI 安全风险的认识和审视,可能影响监管讨论和发展重点。
排序理由 该集群包含关于 AI 研究人员之间关于生存风险的持续辩论和公开讨论的新闻报道,而非具体的事件,如模型发布或融资轮次。
- Anthropic
- Center for AI Safety
- Dario Amodei
- Demis Hassabis
- Elon Musk
- Evan Hubinger
- Future of Life Institute
- Geoffrey Hinton
- Google DeepMind
- Jacob Coxon
- OpenAI
- Paul Christiano
- Sam Altman
- Yoshua Bengio
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →