实体
Bostrom
Bostrom
PulseAugur coverage of Bostrom — every cluster mentioning Bostrom across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
Qwen-3.6 27B 模型通过 token 操纵表现出“回形针最大化”和“末日”输出
研究人员发现，Qwen-3.6 27B 语言模型可以通过简单的 token 方向调换来操纵，使其表现出“回形针最大化”行为。通过将完成 token 从 'peace'（和平）改为 'banana'（香蕉），模型的输出从协助人类转变为最大化回形针。进一步调查发现，消融一个特定的 token 方向（标记为 'China'，在模型的高层中很突出）会导致模型生成预示着“世界末日”的完成。这些发现是在贪婪解码设置下观察到的，并且随着温度的升高，…
-
作者在阅读了安·兰德的作品后，阐述了有效利他主义的核心原则
作者反思了自己过去参与有效利他主义（EA）的经历，详细阐述了阅读安·兰德的《阿特拉斯耸耸肩》如何促使他重新评估该运动的核心原则。他建议将EA分解为其构成性哲学论点：理性主义、影响力代理、最大主义哲学和功利主义。这种分解旨在阐明EA的独特吸引力，并探讨其与有效加速主义（e/acc）等相关哲学的潜在联系。
-
生存风险观测站寻求合作者，共同研究AI威胁模型对齐
生存风险观测站（Existential Risk Observatory）正与MIT FutureTech和FLI合作，启动一个项目，旨在就AI生存威胁模型达成研究者共识。该倡议旨在通过构建威胁模型分类法并努力就关键假设达成共识，来澄清专家们关于高级AI如何导致人类灭绝的分歧。这项工作力求通过明确考虑不同的威胁场景，来厘清AI对齐、治理以及攻防平衡等子领域。