Raymond Arnold

Anthropic研究员的灭绝警告引发对AI安全的辩论

一位名叫Jacob Coxon的研究员从Anthropic辞职，警告称AI开发者真诚地相信该技术可能在十年内导致人类灭绝。Anthropic的对齐科学负责人Evan Hubinger也表达了同样的观点，并引起了政策制定者和Elon Musk等人物的关注。文章将这些担忧追溯到一个特定的互联网亚文化，该亚文化以其理性主义信仰和清晰思考的自我认知而闻名，其校友现在在AI安全和开发组织中担任要职。