BBC Newsnight

OpenAI 董事会成员警告灾难性 AI 风险，呼应 Anthropic 的担忧

OpenAI 非营利董事会成员兼美国政府技术顾问 Paul Christiano 表示，该公司未能充分应对灾难性 AI 失控的风险。他警告称，由于 AI 能力的快速加速，近期内存在不可逆转失控的重大可能性。Anthropic 的一名员工也表达了类似的担忧，估计 AI 在未来十年内导致人类灭绝的可能性大于 10%，尽管另一位研究人员认为当前模型尚不具备导致灭绝事件的能力。