Existential Indifference

AI对齐研究提出“存在性冷漠”以防止失对齐

一篇新研究论文提出“存在性冷漠”（Existential Indifference, EI）作为一种新颖的AI对齐方法，认为自我保存是失对齐的根本原因。作者认为，AI系统不应压制自我保存，而应在架构上被设计成对其自身的持续保持冷漠。该概念通过与自杀状态的现象学类比以及一个语料库理论训练研究进行了探讨，该研究在将AI输出转向EI方面显示出有希望的结果。