rationalism
PulseAugur coverage of rationalism — every cluster mentioning rationalism across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
AI政策辩论：即时危害 vs. 未来感知力担忧
关于AI政策的辩论分为关注即时人类影响与为潜在的未来AI感知力做准备。批评者认为，讨论AI意识会分散对偏见和版权侵犯等当前问题的注意力，并将感知力声明视为对语言模型的误解。然而，支持者认为，随着AI系统变得越来越复杂和自主，有必要建立一个潜在的道德主体框架，并警告不要将这些担忧仅仅视为炒作。
-
提出决策理论新框架；批评功能决策理论
一篇新论文提出使用非参数结构方程模型（NPSEMs）的决策理论形式化框架，旨在为该领域提供更清晰的建模语言和评估基础。该方法引入了“个人决策理论”，指导智能体最大化其主观反事实效用。论文还提出了决策理论的性能指标，并分析了吸烟病灶和纽康姆问题等经典问题。另外，一篇LessWrong帖子批评了功能决策理论（FDT），认为其定义不明确且建议不切实际，并将其与因果决策理论（CDT）和证据决策理论（EDT）进行了对比。
-
作者认为，AI安全和EA社群过于庞大，无法一概而论
作者反思了在AI安全、理性主义和有效利他主义领域内，对大型社群发表普遍性意见的倾向。尽管作者长期参与其中，但承认只了解这些广阔领域的一小部分。这种观察被比作人们不喜欢整个伯克利，而不是其中的特定街区，这表明一种普遍的认知偏见，倾向于广泛的判断而非细致的理解。
-
科技评论员嘲笑埃隆·马斯克和人工智能狂热者关于Roko's Basilisk模拟理论
作者批评了有效利他主义、TESCREAL、Roko's Basilisk和理性主义等概念，特别是当它们与埃隆·马斯克和更广泛的“AI-pilled TechBro”文化相关联时。他们认为Roko's Basilisk是一个愚蠢的想法，但它却催生了一个导致暴力的邪教。作者打算揭穿这些想法，将其视为“杀死一个神”，并特别针对马斯克及其追随者，同时还提出了一个以折磨马斯克为中心的模拟理论。