Google DeepMind 的 AGI 安全与对齐负责人 Rohin Shah 认为，灾难性的 AI 失对齐是可能发生的，但并非默认结果。他认为，当前的 AI 系统更有可能优化短期奖励，而不是发展实现接管世界所需的宏大、长远目标。Shah 建议 AI 安全社区应将重点从理论承诺转移到实际执行，强调专家监督基础设施、AI 治理以及公司可用的研究。 AI
影响 挑战了普遍存在的末日论调，并建议将 AI 安全研究的重点转向实际执行。
排序理由 对一位著名的 AI 安全研究人员的采访，讨论了他对 AI 风险的看法。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →