Google DeepMind 的 AGI 安全与对齐主管 Rohin Shah 认为，灾难性 AI 失调是可能发生的，但并非默认就会发生。他认为，当前专注于短期奖励的 AI 训练方法，并不会自然地导向实现“接管世界”所需的长远目标。Shah 建议，许多潜在的对齐问题将提前显现，从而可以进行迭代式解决，并且研究重点应从部署前评估转向实际研究和 AI 治理基础设施。 AI
影响 讨论了高级 AI 的潜在风险和缓解策略，影响了安全研究和开发的方向。
排序理由 该集群是一篇关于 AGI 安全的讨论和观点文章，采访了一位知名研究员，而不是直接发布或公告。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
<p><span>Rohin Shah recently had an </span><a href="https://80000hours.org/podcast/episodes/rohin-shah-google-deepmind-agi-safety/" rel="noreferrer"><span>interview</span></a><span> on 80000 hours on his views on AGI Safety and his work at Google DeepMind. I'm posting the transcr…
<p>The post <a href="https://80000hours.org/podcast/episodes/rohin-shah-google-deepmind-agi-safety/">Rohin Shah on what it’s really like to run AGI safety at Google DeepMind</a> appeared first on <a href="https://80000hours.org">80,000 Hours</a>.</p>