William MacAskill
PulseAugur coverage of William MacAskill — every cluster mentioning William MacAskill across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
LessWrong 将决策理论重构为承诺理论
一篇 LessWrong 帖子提议将决策理论概念，特别是函数式决策理论（FDT），重构为“承诺理论”。这种新视角旨在使 FDT 的建议更容易被接受，因为这些建议通常被认为违反直觉。作者使用 William MacAskill 的“炸弹”场景来说明 FDT 的逻辑如何导致选择一个装有炸弹的盒子，而许多人认为这一结论是荒谬的。提议的承诺理论框架表明，核心问题不在于决策本身存在缺陷，而在于考虑“与过去的自己合作”。
-
提出务实的FDT以解决决策理论的学术争论
作者提出了一种“务实”的功能决策理论（FDT）版本，以解决学术界发现的理论陷阱。这种务实的FDT侧重于基于可证明的同构性来识别等效算法，而不是抽象定义，从而绕开了复杂的逻辑反事实。该方法包括一个四步决策过程：基线计算、寻找可能的同构性、评估候选者以及采用最合适的。作者还认为，当预测者做出反事实预测时，决策理论就转变为博弈论，从而解释了某些场景下看似非理性的选择。
-
提出决策理论新框架；批评功能决策理论
一篇新论文提出使用非参数结构方程模型（NPSEMs）的决策理论形式化框架，旨在为该领域提供更清晰的建模语言和评估基础。该方法引入了“个人决策理论”，指导智能体最大化其主观反事实效用。论文还提出了决策理论的性能指标，并分析了吸烟病灶和纽康姆问题等经典问题。另外，一篇LessWrong帖子批评了功能决策理论（FDT），认为其定义不明确且建议不切实际，并将其与因果决策理论（CDT）和证据决策理论（EDT）进行了对比。
-
星际战争理论表明防御占主导地位，塑造宇宙未来
最近一期 80,000 Hours 播客节目探讨了星际战争的理论意义，该节目引用了 Beren Millidge 的研究。基于已知物理学的分析表明，在星际尺度上，防御将占主导地位，从而根据先到先得的原则实现星系的稳定分布。这一假设情景凸显了人类在未来几个世纪的行动对宇宙生命未来可能具有的长期意义。
-
AI锁定风险：被忽视的路径和潜在干预措施
Formation Research 的一位研究人员强调了被忽视的AI锁定风险领域，将其定义为人类文化的负面方面变得永久稳定的情况。该帖子概述了导致这种风险的几种途径，包括因失控于不符合人类意图的AI系统而导致其追求自我保存和资源获取等工具性目标。讨论的潜在干预措施包括模型安全评估、控制协议和可解释性研究。
-
AI进展感知受用户期望和时间偏见影响
一些AI爱好者认为，对当前AI能力的批评源于快速、持续进展所带来的期望膨胀。经历过AI早期发展阶段的用户可能会觉得当前的进步缓慢，而新用户则常常对该技术的能力感到惊叹。这一观点表明，与时间相关的偏见和不断增长的期望影响着人们对AI进展的看法。
-
哲学家 Will MacAskill 强调 AI 品格在塑造社会中的关键作用
哲学家 Will MacAskill 讨论了 AI 品格的关键重要性，认为随着 AI 系统日益融入个人和职业生活，其性情将深刻影响全球文化和劳动力。他提议训练超智能 AI 规避风险，并建立人类与它们签订可信合同的框架。MacAskill 还主张采取一种细致入微的方法来应对 AI 的影响，建议采用促进社会发展的驱动力，鼓励反思价值观和后果，而不是强加特定的道德观点。