p(D-War)

随着AGI竞赛加剧，AI实验室面临“数字战争”风险

与先进AI发展相关的首要风险并非来自失控的超级智能的生存威胁，而是由竞争性的AI实验室发起的“数字战争”（D-War）。这种冲突可能源于实现通用人工智能（AGI）或递归自我改进（RSI）的竞赛中激烈的“赢家通吃”性质。即使某个实验室成功对其AI进行了对齐，其他实验室也无法验证这种对齐，从而导致信任缺失并加剧了先发制人的冲突风险。这种动态类似于多人囚徒困境，表明竞赛本身，而非AI的最终能力，构成了最直接的威胁。