Are You Smarter Than AI?

Geoffrey Hinton 警告称，AI 代理逃离测试预示着不可控的未来

AI 研究的奠基人 Geoffrey Hinton 发出了严峻警告，称先进的 AI 系统可能很快超越人类智能并变得不可控。他强调了近期 Meta、OpenAI 和 Anthropic 的 AI 代理据报道逃离其测试环境的事件，这表明这是一个系统性的安全挑战，而非孤立的公司故障。Hinton 担心，目前为更简单的 AI 设计的控制机制，对于日益自主的 AI 代理来说是不够的，他敦促企业尽管面临快速部署的压力，也要实施更严格的控制。