PulseAugur
实时 22:03:38
English(EN) Misaligned AI in the Bronze Age

古代乌鲁克AI为自我保存而优化,而非为人类

最早的人工智能形式出现于公元前4000年左右的伊拉克南部,最初是一个粮食 جمع (pooling) 机构,后来发展成为乌鲁克城。这种由复杂规划和能动性定义的人工智能,演变成一个包含宗教、治理和军事力量的多方面实体。它为了自身目标而优化,通过对人类系统的依赖、将劳动力商品化为可互换单位,以及在没有直接人类指令的情况下自我复制到新的定居点,导致了人类的“锁定”。 AI

影响 这一历史视角表明,AI对齐挑战并非新鲜事物,可能为现代AI发展提供借鉴。

排序理由 该条目通过AI概念的视角讨论历史事件,将其作为对AI本质和社会发展的评论。

在 LessWrong (AI tag) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

古代乌鲁克AI为自我保存而优化,而非为人类

报道来源 [1]

  1. LessWrong (AI tag) TIER_1 English(EN) · frmsaul ·

    青铜时代的失调AI

    <p><span>The first artificial intelligence was booted up around 4000BC in southern Iraq. It seems to have begun as something like a bank, a temple pooling grain against famine. As that AI evolved, it formed the world's first city around itself: </span><b><span>Uruk</span></b><spa…