human enfeeblement

论文认为通用人工智能通过人类衰弱构成生存风险

一篇新发表在arXiv上的论文探讨了高级人工智能或通用人工智能（AGI）可能导致“人类衰弱”的潜在风险。这一概念此前由Stuart Russell提出，现通过关怀和本体论设计的视角重新解读。论文认为，风险不仅在于认知外包，更在于由于我们关怀能力的侵蚀而导致与世界的脱节。论文提出，设计人工智能来支持这些关怀技能，可以解决Demis Hassabis等人物提出的关于后通用人工智能时代意义和目的的担忧。