Yoshua Bengio和Geoffrey Hinton等顶尖AI研究人员认为，高级AI导致人类灭绝或极端失能的可能性很高，达到10%或更高。尽管如此，全球对此类警告的响应却明显不足。一种提议的解决方案是开发更正式、更量化的方法来评估这些主观概率，并将其与金融市场如何将不确定的未来风险纳入资产定价进行类比。 AI
影响 强调需要更好的量化框架来应对高级AI带来的生存风险，可能影响未来的安全研究方向。
排序理由 观点文章，讨论AI研究人员对生存风险的主观概率评估及其影响。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p><a href="https://arxiv.org/html/2401.02843v1">Most AI researchers</a> put at least 5% on advanced AI causing human extinction or extreme disempowerment. The <a href="https://adscientificindex.com/citation-ranking/">most cited</a> scientists of all time are Yoshua Bengio and Ge…