EuroSafeAI

Less Wrong 帖子警告：AI 可能导致极端权力集中

一篇 Less Wrong 帖子探讨了即使解决了对齐问题，先进的 AI 也可能导致极端权力集中的可能性。作者认为，AI 自动化劳动力和加速研发的能力可能会剥夺大部分人口的权力，形成不负责任的国家。该帖子引入了 IEMP 模型（意识形态、经济、军事、政治）来框定这些担忧，并指出只有少数组织，如 Forethought、Formation Research 和 EuroSafeAI，正在积极研究这个特定问题。