评论员曾认为,像 Anthropic 和 OpenAI 这样的 AI 公司夸大 AI 安全担忧,是为了提升股价、转移对近期危害的注意力,或实现监管俘获。然而,证据表明这些说法是错误的。与大公司无关的 AI 研究人员对生存风险表达了类似的担忧水平,而那些现在警告 AI 危险的领导者在行业或他们目前的公司存在之前就提出了这些问题。此外,一些人离开了 AI 公司的丰厚职位去从事 AI 安全活动,这表明是真正的担忧,而不是企业战略。 AI
影响 驳斥了 AI 安全担忧是企业策略的说法,表明独立的专家和前行业内部人士正在提出真正的生存风险。
排序理由 该条目是一篇评论文章,分析了 AI 安全担忧背后的动机,而不是报道新的发布、事件或研究发现。
在 Astral Codex Ten (Scott Alexander) 阅读 →
- Anthropic
- Daniel Kokotajlo
- Dario Amodei
- Geoffrey Hinton
- Grace et al
- Jacob Coxon
- OpenAI
- Paul Christiano
- Turing Award
- Yann LeCunn
- Yoshua Bengio
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →