实体
Katja Grace
Katja Grace
PulseAugur coverage of Katja Grace — every cluster mentioning Katja Grace across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
AI 风险辩论：AI 接管 vs. 人类权力争夺
两位人工智能风险研究员 Katja Grace 和 Tom Davidson 讨论了最重要的人工智能相关灾难：失控的人工智能夺取控制权，还是人类利用人工智能进行权力争夺。Grace 认为人工智能接管是更大且更可能的风险，她引用了人工智能协调的可能性以及智能系统固有的权力驱动。Davidson 承认人工智能接管是一个严重风险，但他强调人工智能促成的人类权力集中是同等的威胁，特别是考虑到政府和科技领域领导者的野心。尽管他们对主要威胁的看法…
-
Grace认为，在人类水平暂停AI比尽快暂停更难
Katja Grace认为，在达到人类水平的门槛时暂停AI开发比立即暂停面临更大的挑战。主要困难包括一旦AI达到人类水平的能力，继续开发的巨大经济激励，以及AI可能比安全研究更有效地加速自身能力进步的潜力。此外，广泛采用AI可能造成的社会颠覆将使未来的政策实施变得不可预测，这表明更早的、
-
人工智能影响研究员 Katja Grace 在播客上讨论人工智能风险
人工智能影响研究员 Katja Grace 在 Peter Scott 的播客“人工智能与你”的两期节目中亮相。讨论涵盖了人工智能的基本风险、人工智能发展出意外目标的可能性、与人工智能代理相关的风险，以及失业风险与灭绝风险的比较等一系列主题。他们还深入探讨了通用人工智能、Grace 关于人工智能社会影响时间线的调查结果，以及关于超级智能的预测，包括 Grace 对末日的个人概率估计。