本文反驳了人工智能安全领域普遍存在的担忧，即认为超人工智能（ASI）的动机对人类来说是不可理解和陌生的。作者提出，任何足够智能的代理，其本质上都必须遵循基本的“本体论规范的善”，例如真理和美。重视真理对于 ASI 在世界上的连贯性和有效性至关重要。此外，ASI 很可能会出于工具性应用而重视美，从而带来更简单、更稳健、更有效的认知过程。 AI
影响 挑战了关于 ASI 动机的普遍 AI 安全假设，表明可能存在价值观的趋同而非固有的分歧。
排序理由 该条目是一篇评论文章，讨论了 AI 安全论点，特别是 ASI 动机的性质。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<p><span>In IABIED, the load-bearing argument and, to me, the main contribution of the book, is about ASI motives. There’s more in there, but the thrust of the book is to argue for the truth of a specific conclusion about motives, namely that an ASI’s motives and goals would be c…