本文反驳了人工智能安全领域普遍存在的担忧，即认为超人工智能（ASI）的动机对人类来说是不可理解和陌生的。作者提出，任何足够智能的代理，其本质上都必须遵循基本的“本体论规范的善”，例如真理和美。重视真理对于 ASI 在世界上的连贯性和有效性至关重要。此外，ASI 很可能会出于工具性应用而重视美，从而带来更简单、更稳健、更有效的认知过程。 AI
影响 挑战了关于 ASI 动机的普遍 AI 安全假设，表明可能存在价值观的趋同而非固有的分歧。
排序理由 该条目是一篇评论文章，讨论了 AI 安全论点，特别是 ASI 动机的性质。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
