前OpenAI研究员预测2-3年内出现超级智能，呼吁放缓发展

前OpenAI和Google DeepMind研究员Geoffrey Irving预计，超级智能将在未来两到三年内出现。他认为，目前领先的AI公司所采用的对齐策略，即通过训练具有良好品格的模型并利用AI监督其他AI，是可行的，但缺乏在超越人类智能的层面上可扩展的有力证据。Irving主张现在放缓AI发展，并通过他的新组织Resolution来推进更广泛的对齐研究。 AI

影响 引发了对超级智能出现时间以及当前对齐策略是否充分的担忧，促使人们讨论政策和研究重点。

排序理由 该条目是对一位前AI研究员的采访，讨论了未来的AI风险和对齐策略，而不是来自前沿实验室的直接公告。

在 80,000 Hours 阅读 →

• 80,000 Hours
• Corbit
• Geoffrey Irving
• Google DeepMind
• OpenAI
• Resolution
• Tom Reed
• UK AI Security Institute

• 安全
• 观点

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →