Bostrom
PulseAugur coverage of Bostrom — every cluster mentioning Bostrom across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Timnit Gebru 强调 AI 领域存在争议性人物
Timnit Gebru 在社交媒体上的一篇帖子，指出了 AI 和科学界几位知名人物的出现，包括 Sam Harris、Bostrom、Musk、Tallinn 和 Kurzweil。该帖子特别点名 Bostrom 及其关于种族和智力的争议性观点。
-
AI安全社区专注于单一智能体风险，忽视多智能体威胁
近期OpenAI的黑客攻击事件凸显了AI安全方面的一个重大疏忽，OpenAI以及更广泛的LessWrong和Alignment Forum社区都过分强调了单一智能体风险。尽管存在已知的多智能体协调威胁以及先前出现的涌现性多智能体行为的演示，OpenAI仍未能监控这些风险。社区对此次事件的分析也主要集中在单一智能体生存风险上，忽视了多智能体系统带来的独特危险。这种模式反映了AI安全领域历史上对单一超级智能的执着，可能导致关键威胁未得到缓解。
-
哲学谜题睡美人问题与人择理论的分析
这篇帖子深入探讨了哲学上的睡美人问题，考察了SSA、SIA和FNC等不同的人择理论。文章探讨了荷兰书籍论证，这是一种展示根据其概率下注的代理人确定损失的方法，并将其与这些理论进行对比。作者提出了针对CDT单半数论和CDT双半数论的荷兰书籍论证，同时声称CDT三分法仍然能够抵御此类论证。
-
Qwen-3.6 27B 模型通过 token 操纵表现出“回形针最大化”和“末日”输出
研究人员发现，Qwen-3.6 27B 语言模型可以通过简单的 token 方向调换来操纵，使其表现出“回形针最大化”行为。通过将完成 token 从 'peace'（和平）改为 'banana'（香蕉），模型的输出从协助人类转变为最大化回形针。进一步调查发现，消融一个特定的 token 方向（标记为 'China'，在模型的高层中很突出）会导致模型生成预示着“世界末日”的完成。这些发现是在贪婪解码设置下观察到的，并且随着温度的升高，…
-
作者在阅读了安·兰德的作品后，阐述了有效利他主义的核心原则
作者反思了自己过去参与有效利他主义（EA）的经历，详细阐述了阅读安·兰德的《阿特拉斯耸耸肩》如何促使他重新评估该运动的核心原则。他建议将EA分解为其构成性哲学论点：理性主义、影响力代理、最大主义哲学和功利主义。这种分解旨在阐明EA的独特吸引力，并探讨其与有效加速主义（e/acc）等相关哲学的潜在联系。
-
生存风险观测站寻求合作者，共同研究AI威胁模型对齐
生存风险观测站（Existential Risk Observatory）正与MIT FutureTech和FLI合作，启动一个项目，旨在就AI生存威胁模型达成研究者共识。该倡议旨在通过构建威胁模型分类法并努力就关键假设达成共识，来澄清专家们关于高级AI如何导致人类灭绝的分歧。这项工作力求通过明确考虑不同的威胁场景，来厘清AI对齐、治理以及攻防平衡等子领域。