AGI Alignment

AGI对齐因结构不可验证性而被证明是不可判定的

一篇新发表在arXiv上的论文确立了人工智能通用（AGI）安全性的理论极限，证明了核心挑战并非对齐状态的不可能性，而是其结构上的不可验证性。该研究引入了对齐不可验证性定理和AGI对齐有限结构不可验证性定理，并将这些限制置于Trakhtenbrot的墙壁之内。这些发现表明，依赖于有限硬件或停机架构的当前工程防御措施无法克服根本的逻辑障碍，从而导致了不可避免的三个遏制失败的困境。