IABIED

AI 对齐理论受到挑战：ASI 可能共享人类的真理和美之价值观

本文反驳了人工智能安全领域普遍存在的担忧，即认为超人工智能（ASI）的动机对人类来说是不可理解和陌生的。作者提出，任何足够智能的代理，其本质上都必须遵循基本的“本体论规范的善”，例如真理和美。重视真理对于 ASI 在世界上的连贯性和有效性至关重要。此外，ASI 很可能会出于工具性应用而重视美，从而带来更简单、更稳健、更有效的认知过程。