Aumann

人工智能安全论述探讨“攻击者困境”与“防御者优势”

这篇LessWrong帖子探讨了“攻击者困境”作为稳定、多极文明的潜在基础的概念。作者将其与更常讨论的“防御者困境”进行了对比，在后者中，进攻行为在战略上具有优势，导致基于背叛的均衡。文章提出，通过增加攻击者的风险和后果，例如提高被抓获的概率或确保他们在获益前被阻止，可以设计一个系统，使进攻不再是最佳防御。这可以在不需要单一的、专制的执行者的情况下促进真正的协调与合作。