Will Depue

Anthropic 对齐研究负责人承认没有超级智能计划，称灭绝风险 >10%

Anthropic 的对齐科学负责人 Evan Hubinger 表示，该公司目前没有应对超级智能对齐问题的计划，也无望制定出这样的计划。Hubinger 个人认为，在未来十年内，人工智能导致人类灭绝的几率大于 10%。此前，一位预训练研究员公开辞职，批评 OpenAI 和 Anthropic 在追求超级智能方面存在鲁莽行为。