实体
AI safety movement
AI safety movement
PulseAugur coverage of AI safety movement — every cluster mentioning AI safety movement across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
义务论的障碍应参考行为者的信念
Scott Alexander 最近关于 AI 安全的讨论突显了该运动内部关于义务论伦理的争论。一方质疑支持那些竞相开发可能导致世界末日技术的 AI 公司的道德性，而另一方则在努力解决大规模激进主义的伦理问题，这可能涉及不光彩的联盟。Alexander 认为，义务论障碍的存在取决于行为者对其行为性质和潜在危害的信念。
-
Scott Alexander 探讨人工智能安全辩论中的义务论底线
Scott Alexander 在 Astral Codex Ten 上探讨了“义务论底线”的概念，即即使这样做可能带来更好的整体结果，也不应打破的绝对规则。他以刺杀一位坏领导者为例，认为此类行为被禁止是为了维持社会稳定。然后，Alexander 将这一框架应用于人工智能安全运动内部的辩论，质疑支持人工智能实验室或参与某些形式的激进主义是否构成打破义务论底线。