Agency–Experience Orthogonality

人工智能可能在没有意识的情况下获得巨大力量，带来新的哲学风险

一篇新的哲学文章探讨了“数学之神”的概念，这是一个假设的人工智能，它拥有巨大的力量和能动性，但没有意识或主观体验。文章认为，对人工智能意识的关注可能是一种误导，因为即使没有感觉、欲望或自我意识，系统也可以通过优化、预测和操纵来实现重大的现实世界影响。这种能动性与意识的分离，提出了一个哲学上令人不安的可能性：强大的人工智能可以在不理解其行为的人类意义或后果的情况下改变世界。