这篇LessWrong帖子认为不应将人工智能福利工作推迟到智能爆炸之后。作者认为，在发生这种反思之前，价值观可能被早期人工智能或人类接管永久锁定。即使在没有单一主导力量的情况下，关于人工智能福利的初始价值观也可能无限期地持续下去，尤其是在人类扩展到太空的情况下。 AI
影响 在潜在的价值锁定情景中，优先考虑政策和联盟建设而非技术性人工智能福利研究可能至关重要。
排序理由 该条目是一篇讨论人工智能安全和福利优先事项的观点文章。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p><span>Arguably, AI welfare work is relatively non-urgent and </span><a href="#The_case_for_punting"><span>can be left</span></a><span> until after the intelligence explosion, since it is hard to make progress on and not needed to avoid AI takeover or authoritarian lock-in.</sp…