最近的一项分析表明，在没有全球禁止其开发的情况下，实现安全的超级人工智能 (ASI) 根本是不可能的。作者认为，构建可控 ASI 的技术路径不可避免地会导致创造不安全的 ASI，而后者更容易开发。因此，任何对安全 ASI 的追求都必须采取极端保密、完全技术隔离或全球强制禁止 ASI 研究的措施。 AI
排序理由 由知名可信人士就理论性 AI 安全挑战发表的观点文章。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
研究人员认为，安全的 ASI 需要全球禁止其开发
报道来源 [1]
-
只有在全球禁止ASI的情况下，你才能构建安全的ASI
<img alt="image.png" src="https://res.cloudinary.com/lesswrong-2-0/image/upload/v1776348899/lexical_client_uploads/ujztq20z1ocsxbfvxsg3.png" /><p><span>Sometimes people make various suggestions that we should simply build "safe" artificial Superintelligence (ASI), rather than the…