实体
intelligence explosion
intelligence explosion
PulseAugur coverage of intelligence explosion — every cluster mentioning intelligence explosion across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Toby Ord 论文模拟AI智能爆炸动力学
Toby Ord 的一篇论文探讨了智能爆炸的数学动力学，即人工智能通过递归自我改进迅速加速其自身发展的场景。Ord 认为，实现人工智能能力“奇异增长”并趋向垂直渐近线比通常建模的要复杂，特别是如果反馈循环或“生成时间”没有迅速趋近于零的话。该论文强调，虽然指数增长是可能的，但快于指数但非奇异的增长率在关于AI进展的讨论中也同样重要且常常被忽视。
-
关于何时捐赠 AI 安全资金的争论爆发：现在还是以后？
一场关于为应对智能爆炸的潜在风险而进行的大规模慈善捐赠的最佳时机的争论正在出现。一种观点认为应立即投资资金，认为慈善资本的增长和 AI 效用的提高将使后期的捐赠效果大打折扣。这种观点认为，现在捐赠可以更早地为组织提供启动资金，提供宝贵的拨款经验，并使人类在仍能控制的情况下对 AI 的发展施加更大的影响。相反，另一种观点认为，大型捐赠者应该等到接近智能爆炸时再部署其资本，他们相信 AI 的投资回报将超过通货膨胀，并且届时 AI 将更有能…