实体
Ai Impacts
Ai Impacts
PulseAugur coverage of Ai Impacts — every cluster mentioning Ai Impacts across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI 风险辩论：AI 接管 vs. 人类权力争夺
两位人工智能风险研究员 Katja Grace 和 Tom Davidson 讨论了最重要的人工智能相关灾难：失控的人工智能夺取控制权，还是人类利用人工智能进行权力争夺。Grace 认为人工智能接管是更大且更可能的风险，她引用了人工智能协调的可能性以及智能系统固有的权力驱动。Davidson 承认人工智能接管是一个严重风险，但他强调人工智能促成的人类权力集中是同等的威胁，特别是考虑到政府和科技领域领导者的野心。尽管他们对主要威胁的看法…
-
作者认为，人工智能风险的论述早于科技公司CEO出现
作者认为，对高级人工智能构成生存威胁的担忧，早于人工智能公司的兴起并且独立于它们。他回忆说，至少从2009年起，在DeepMind或OpenAI等主要人工智能实验室出现之前，他就已经参与了人工智能安全社区。这段历史，包括参与MIRI等组织以及参加会议和研究小组，被用作证据，表明人工智能风险在一个专门的社区中早已是一个公认的问题，远在科技CEO能够利用它进行炒作之前。