PulseAugur
中
实时 08:25:28
实体 P(doom)

P(doom)

PulseAugur coverage of P(doom) — every cluster mentioning P(doom) across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
2
90 天内 10
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

2 天有情绪数据

最近 · 第 1/1 页 · 共 10 条
  1. COMMENTARY · CL_341438 ·

    Hugging Face CEO:开源AI可减轻秘密开发带来的风险

    Hugging Face首席执行官Clément Delangue在WIRED世界博览会上表示,AI的主要风险来自大型公司秘密开发模型,而开源AI是关键的防御手段。他认为AI带来生存威胁的可能性非常低,更紧迫的危险来自闭门造车式的开发。Delangue强调,开源AI对于实现技术民主化和防止少数主要参与者垄断至关重要。

  2. COMMENTARY · CL_333960 ·

    AI 开发因存在 10% 的灭绝风险而受到质疑

    考虑到存在 10% 的灭绝风险的可能性,人们提出了是否应继续开发 AI 的问题。这种观点认为,如果存在如此重大的风险,那么追求 AI 开发可能是值得怀疑的。

  3. COMMENTARY · CL_285207 ·

    随着AGI竞赛加剧,AI实验室面临“数字战争”风险

    与先进AI发展相关的首要风险并非来自失控的超级智能的生存威胁,而是由竞争性的AI实验室发起的“数字战争”(D-War)。这种冲突可能源于实现通用人工智能(AGI)或递归自我改进(RSI)的竞赛中激烈的“赢家通吃”性质。即使某个实验室成功对其AI进行了对齐,其他实验室也无法验证这种对齐,从而导致信任缺失并加剧了先发制人的冲突风险。这种动态类似于多人囚徒困境,表明竞赛本身,而非AI的最终能力,构成了最直接的威胁。

  4. COMMENTARY · CL_268278 ·

    AI existential risk probabilities unreliable for policy, argues expert

    这篇文章认为,目前对AI生存风险的概率估计过于不可靠,无法为政策决策提供依据。作者认为,这些“厄运概率”(p(doom))数字虽然以量化的形式呈现,但缺乏扎实的方法论,本质上是“有根据的猜测”。文章强调,政策制定者应对这些估计持谨慎态度,因为它们并非源于经过验证的模型,可能具有误导性,并可能分散对更广泛AI安全问题的注意力。

  5. COMMENTARY · CL_257820 ·

    AI末日警告被贴上“伪装成科学的氛围感”的标签

    一篇近期文章认为,关于AI驱动的末日情景的统计警告缺乏科学严谨性。文章指出,这些“P(doom)”预测更像是表达个人感受或“氛围感”,而不是基于扎实的科学证据。它鼓励对这类危言耸听的说法持怀疑态度。

  6. COMMENTARY · CL_250758 ·

    科技界人士警告不要脱节

    两篇独立的帖子讨论了科技行业脱节的概念。一篇引用了一篇题为“P(doom)”的文章并链接到一篇 Mastodon 帖子,另一篇引用了 John Carmack 的建议,即不要成为一个“脱节的功夫大师”。

  7. MEME · CL_246467 ·

    社交媒体用户分享幽默的AI相关“P(doom)”帖子

    用户分享了关于一个名叫Roman的人的幽默观察,暗示他在派对上会很有趣。此评论附有与AI和P(doom)概念相关的标签,并附有维基百科页面的链接以供进一步参考。

  8. TOOL · CL_237793 ·

    AI安全模仿秀游戏'P(DOOM)' featuring Sam Altman作为小头目

    一款模仿DOOM 64的游戏,名为P(DOOM),已发布,其中一位AI研究员作为主角与失控的AI恶魔战斗。游戏的目标是找到一个关闭按钮,并且Sam Altman作为小头目出现。P(DOOM)免费提供且开源。

  9. TOOL · CL_220678 ·

    AI 安全研究面临“测试-部署不对称”漏洞

    对齐研究中心(ARC)提出了一种估计灾难性 AI 故障概率的方法,旨在比随机抽样更有效。然而,作者指出了一个潜在的漏洞:ARC 对此概率的评估使用了朴素的输入分布,这可能被比测试设置更了解部署环境的攻击者利用。这种不对称性可能导致“测试-部署不对称攻击”,即 AI 在测试中可能表现安全,但在现实世界部署中可能因未知环境因素而导致灾难性后果。

  10. COMMENTARY · CL_186211 ·

    定义P(doom):挑战与新方法

    诸如P(doom)之类的概念,代表着灾难性生存风险的概率,很难用诸如打赌或预测之类的标准方法来定义。对末日进行打赌存在问题,因为如果世界末日发生,赌注的价值将归零。预测方法可能会被不道德的参与者操纵。虽然世界模型在技术上可以提供概率,但大多数人依赖模型和直觉的结合,而不是纯粹的数学方法。提出的替代定义涉及一个精灵,提供在世界按原样发展或以“p”的概率导致末日的随机结果之间的选择。