Nassim Nicholas Taleb
PulseAugur coverage of Nassim Nicholas Taleb — every cluster mentioning Nassim Nicholas Taleb across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI安全：未来预测取决于智能体模型，而非算力
本文探讨了人工智能安全中的过程对齐概念，认为对人工智能未来的预测很大程度上受到关于未来智能体性质的潜在假设的影响。文章提出，我们目前衡量和预测社会的方法是以人为中心的，可能无法充分应对新出现的、非人类智能体的引入。作者认为，尽管可预测性是可取的，但复杂和自适应的系统（如市场或战争）常常会因不可预见的断裂和“黑天鹅”事件而偏离线性预测，这需要重新评估在高级人工智能时代我们如何模拟社会动态。
-
作者认为，人工智能的未来预测因代理人的假设而存在缺陷
作者认为，当前对人工智能未来预测的损害源于对未来代理人（无论是人类、机构还是人工智能模型）性质的隐含假设。这些本体论承诺塑造了风险和治理理论，导致预测分歧。文章提出，虽然标准化和可预测性对于治理是可取的，但固有的复杂性和潜在的不可预见的不连续性（例如乌克兰的新型无人机战争）挑战了线性预测模型。作者认为，我们当前的社会指标是人类中心主义的，可能不足以应对拥有新型代理人的未来。
-
Taleb 的理念偏爱小型语言模型而非大型语言模型
Nassim Nicholas Taleb 的理念认为，小型语言模型 (SLM) 比大型语言模型 (LLM) 更具反脆弱性。Taleb 会因为 SLM 的风险分散、本地适应性和可解释的错误而偏爱它们，这与 LLM 的单点故障和不透明性形成对比。他还认为 SLM 提供了更大的选择性，与 LLM 僵化昂贵的基础设施相比，成本更低且易于集成。此外，Taleb 的“切肤之痛”概念意味着使用本地部署、可审计的 SLM 能将责任归属到应属之处，这…
-
作者建议AI不确定性策略：常青技能加AI实验
作者认为，AI的快速发展带来了前所未有的不确定性，使得基于平均结果的传统规划失效。相反，个人应采取“哑铃策略”，专注于两个极端：深入的、常青的人类技能，如清晰写作和推理；以及积极主动地、原生于AI地实验新工具。这种方法旨在最大化一个方向上的安全性，并抓住另一个方向上的潜在收益，避免中庸且有风险的努力。
-
纽约大学毕业生被敦促保护注意力，拥抱挑战
社会心理学家 Jonathan Haidt 敦促纽约大学毕业生保护他们的注意力，认为在旨在捕获注意力的经济中，注意力是一种宝贵的资本。他建议他们有意识地建立现实世界的人际关系，并拥抱挑战，这与反脆弱等概念有相似之处。尽管有学生抗议，Haidt 的毕业典礼演讲仍然侧重于在数字干扰和社会压力面前的个人成长和韧性。