Hell

AI发展暂停受质疑；对齐研究被视为迭代式漏洞修补

博主 Nicholas Decker 对提议的 AI 发展暂停表示怀疑，认为对齐研究本质上是能力研究，通过迭代式漏洞修补来推进，类似于航空安全改进。他认为，随着 AI 系统的开发和测试，对齐将是默认发生的。为了说明他的观点，Decker 提出了一个思想实验：在地狱中被缓慢、无能的恶魔奴役的人类，将面临被克隆、增强并可能反抗的未来，质疑恶魔们是否准备好应对这种情况。