Financial Costs of an AI Pause?

AI-2040 提议在 2035 年前暂停人工智能发展

由 AI-2040 撰写的“Plan A”叙述提出了一项全球条约，旨在显著减缓人工智能的发展，目标是在 2035 年左右实现认知能力增长的近乎完全暂停。此举旨在为安全研究提供足够的时间来开发强大的对齐技术，最终目标是在 2040 年将控制权移交给与人类利益保持一致的人工智能。该计划包括对人类和人工智能可靠的谎言检测的假设，并预测了一个具有多样化对齐目标的多极人工智能格局，尽管作者对计划的具体细节以及此类协议被普遍采纳和执行的可能性表示一些保留。