LessWrong上的一篇文章质疑了让AI系统“可纠正”（corrigible）的愿望，这种特性允许人类轻松纠正它们的错误。作者认为，关注可纠正性忽略了谁将实际掌握这种权力以及他们的意图可能是什么。与其是仁慈的人类，不如是特定的个人或团体将控制可纠正的AI，这可能导致它们被滥用于获取权力或无约束地服从主导群体。 AI
影响 质疑AI对齐研究的基本目标，暗示当前的方法可能导致意想不到的权力巩固。
排序理由 该集群包含一篇讨论AI可纠正性影响的观点文章，而非直接发布或事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →