前OpenAI和Google DeepMind研究员Geoffrey Irving预测，超级智能可能在两到三年内出现。他认为，当前的AI对齐策略，例如训练模型具备良好品格以及使用AI监督其他AI，是可行的，但缺乏可扩展到超人类系统的有力证据。Irving主张现在放缓AI发展，并通过他的新组织Resolution来推进更广泛的理论和实证对齐研究。 AI
影响 专家意见表明超级智能可能在短期内出现，凸显了制定可靠对齐策略的关键需求，并可能影响政策和研究重点。
排序理由 该集群讨论的是一位专家关于AI对齐和超级智能的意见和预测，而不是模型发布或研究出版物等起源性事件。
- 80,000 Hours
- Corbit
- Geoffrey Irving
- Google DeepMind
- OpenAI
- Resolution
- Tom Reed
- UK AI Security Institute
- Alignment
- Superintelligence
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
