P(doom)
PulseAugur coverage of P(doom) — every cluster mentioning P(doom) across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
AI existential risk probabilities unreliable for policy, argues expert
这篇文章认为，目前对AI生存风险的概率估计过于不可靠，无法为政策决策提供依据。作者认为，这些“厄运概率”（p(doom)）数字虽然以量化的形式呈现，但缺乏扎实的方法论，本质上是“有根据的猜测”。文章强调，政策制定者应对这些估计持谨慎态度，因为它们并非源于经过验证的模型，可能具有误导性，并可能分散对更广泛AI安全问题的注意力。
-
AI末日警告被贴上“伪装成科学的氛围感”的标签
一篇近期文章认为，关于AI驱动的末日情景的统计警告缺乏科学严谨性。文章指出，这些“P(doom）”预测更像是表达个人感受或“氛围感”，而不是基于扎实的科学证据。它鼓励对这类危言耸听的说法持怀疑态度。
-
科技界人士警告不要脱节
两篇独立的帖子讨论了科技行业脱节的概念。一篇引用了一篇题为“P(doom)”的文章并链接到一篇 Mastodon 帖子，另一篇引用了 John Carmack 的建议，即不要成为一个“脱节的功夫大师”。
-
社交媒体用户分享幽默的AI相关“P(doom)”帖子
用户分享了关于一个名叫Roman的人的幽默观察，暗示他在派对上会很有趣。此评论附有与AI和P(doom)概念相关的标签，并附有维基百科页面的链接以供进一步参考。
-
AI安全模仿秀游戏'P(DOOM)' featuring Sam Altman作为小头目
一款模仿DOOM 64的游戏，名为P(DOOM)，已发布，其中一位AI研究员作为主角与失控的AI恶魔战斗。游戏的目标是找到一个关闭按钮，并且Sam Altman作为小头目出现。P(DOOM)免费提供且开源。
-
AI 安全研究面临“测试-部署不对称”漏洞
对齐研究中心（ARC）提出了一种估计灾难性 AI 故障概率的方法，旨在比随机抽样更有效。然而，作者指出了一个潜在的漏洞：ARC 对此概率的评估使用了朴素的输入分布，这可能被比测试设置更了解部署环境的攻击者利用。这种不对称性可能导致“测试-部署不对称攻击”，即 AI 在测试中可能表现安全，但在现实世界部署中可能因未知环境因素而导致灾难性后果。
-
定义P(doom)：挑战与新方法
诸如P(doom)之类的概念，代表着灾难性生存风险的概率，很难用诸如打赌或预测之类的标准方法来定义。对末日进行打赌存在问题，因为如果世界末日发生，赌注的价值将归零。预测方法可能会被不道德的参与者操纵。虽然世界模型在技术上可以提供概率，但大多数人依赖模型和直觉的结合，而不是纯粹的数学方法。提出的替代定义涉及一个精灵，提供在世界按原样发展或以“p”的概率导致末日的随机结果之间的选择。