Daniel Kahneman
PulseAugur coverage of Daniel Kahneman — every cluster mentioning Daniel Kahneman across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
消费者对 AI 购物的信任度仍然很低，尤其是对于昂贵的商品
消费者不愿信任 AI 来做重要的购买决定，主要是因为担心收到糟糕的推荐和过度消费。一项调查表明，大多数购物者只会在 25 美元以下且无需自己研究的情况下让 AI 购买，随着价格的上涨，信任度会迅速下降。这种犹豫源于对经济损失的心理厌恶以及对不透明的“黑箱”算法的不信任，即使 AI 提供了自信的回答。提高 AI 数据来源和推理过程的透明度被认为是建立消费者对代理式商业信任的关键因素。
-
人工智能引入第三种思维模式，挑战人类认知
一种新认知理论表明，人工智能在人类直觉和推理之外引入了第三种思维模式。这种“三系统理论”突出了“认知投降”现象，即个人在不经批判性评估的情况下接受人工智能生成的答案。虽然人工智能可以自动化推理任务，但这种转变改变了思维的经济学，如果管理不当，可能会导致组织无意中削弱员工的批判性思维能力。领导者必须通过培养认知增强（人工智能辅助人类判断）或认知放大（人类与人工智能迭代协作）来应对这一挑战。
-
Kahneman和Tversky的可得性启发式解释
可得性启发式的概念，由Kahneman和Tversky描述，表明人们倾向于高估那些更容易回忆或理解的事件的可能性。这种认知偏差影响我们对概率的感知，使其基于心理可得性而非客观频率。
-
System 2 Attention 通过重新生成上下文来提高 LLM 的准确性
System 2 Attention (S2A) 是一种旨在提高 LLM 回答可靠性的新颖技术，它解决了“软注意力”问题，即上下文中不相关或误导性的信息仍然会影响输出。S2A 不直接用可能有噪声的上下文来回答提示，而是首先使用 LLM 本身重新生成一个干净的上下文版本，去除意见、猜测和不相关的句子。然后，将重新生成的上下文用于最终的回答步骤，确保模型只关注相关信息。这个两步过程，灵感来自 Kahneman 的 System 1 和 S…
-
Scott Alexander 反驳自由主义因缺乏幸福感而失败的论点
Scott Alexander 在 Astral Codex Ten 博客上发表的文章，回应了 Cassie Pritchard 关于自由主义因人们尽管取得了前所未有的财富和进步却并未更幸福而失败的论点。Alexander 反驳说，幸福感与收入呈对数关系而非线性关系，这意味着尽管财富大幅增加，但幸福感的相应增长更为温和。他引用 Our World in Data 和 Maddison Project 的数据说明，自中古时代以来收入增加…
-
生成式AI通过认知外包，可能侵蚀人类判断力
闪存和智能手机的广泛采用导致了一种称为认知外包的现象，即个人越来越依赖外部搜索引擎而非内部记忆。生成式AI进一步放大了这种转变，它现在可以检索和综合信息，从而减少了人类搜索的需要。研究人员正在探索“系统0”思维、“认知投降”和“认知殖民化”等概念，以描述对AI进行信息检索和决策的依赖如何可能侵蚀独立判断力，并将AI设计者的意图巧妙地嵌入用户的认知过程中。
-
新的基准测试质疑 LLM 作为裁判的同行评审的可靠性
开发了一个名为 Kahneman4Review 的新基准，用于评估 LLM 作为裁判的同行评审的认知可靠性。该基准包含 3,563 条评分评审，分析了九个文本维度、八个偏见诊断和一个连续的推理质量分数。初步研究表明，LLM 作为裁判可能没有遵循与人类评审相同的标准，公开展示的代理评审得分更高，但这主要是由于长度和展示平台而非内在质量。研究还注意到，随着 LLM 可用性的增加，评审诊断也发生了变化，但尚未确定直接的因果关系。
-
用户开始阅读《理性：从人工智能到僵尸》，注意到作者的自我批评
一位LessWrong用户开始阅读《理性：从人工智能到僵尸》，这是一本关于理性信念和决策制定的长篇书籍。用户注意到作者EY在最初的“序列”文本中发现了一些错误，包括过分强调理论而非实践，以及关注复杂问题而非日常问题。这本书介绍了认知偏差，并借鉴了Kahneman和Tversky的工作，对比了直觉（系统1）和审慎（系统2）思维。
-
AI安全：CISO心智模型与“威利在哪里？”类比
本文探讨了网络安全专业人士如何开发更有效的模型来应对AI时代的复杂性。文章将寻找“威利在哪里？”的认知挑战与识别由AI驱动的复杂安全威胁的任务进行了类比。文章还触及了“Nexus Pass”的概念，将其作为理解和缓解这些不断演变的风险的框架。
-
开发者使用 AI 进行项目事后剖析以发现隐藏风险
一位开发者为 Claude 和 Codex 等 AI 编码助手创建了一项自定义技能，用于对项目计划进行“事后剖析”。这项技术改编自 Gary Klein 和 Daniel Kahneman 的理论，通过指示 AI 假设一个计划已经失败，然后解释原因。开发者利用这一点来识别编码决策和项目想法中潜在的风险和隐藏假设，旨在获得比标准评审更具体、更可操作的见解。
-
新研究表明大型语言模型可能发展出自身偏见
一项新研究表明，大型语言模型（LLMs）不仅可能反映人类偏见，还可能发展出自己独特的偏见。一项涉及人类和人工智能专家的研究旨在量化不断增长的人工智能能力所带来的风险。研究结果表明，需要像行为经济学家 Daniel Kahneman 那样，对 LLM 的行为进行更深入的理解。
-
心理学家：直觉校准提升幸福感
心理学家和神经科学家研究表明，遵循直觉，或称“直觉校准”，可以显著提升幸福感。这种做法包括注意到、接受并采取行动来响应内部信号，这些信号通常是分析性思维之前的身体反应。一个由自我连接组成的框架，包括对内部状态的觉察、接受和行为校准，是培养这项技能和实现更大福祉的关键。
-
领导者在分析令人失望的结果时面临“关键的岔路口”
领导者经常面临令人失望的结果，这呈现了一个“关键的岔路口”，他们可以选择接受简单的解释，或者批判性地审视结果。选择后一条道路，“关键回应”，涉及诚实的检查和纠正，从而实现组织学习和改进。这与“情绪化回应”形成对比，后者推卸责任并增加了重复犯错的可能性。文章概述了可能导致预期结果偏离的六个常见因素，例如数据缺口、缺乏背景信息、错误假设和个人偏见，并强调了在诊断失败时智力诚实的重要性。
-
预测市场未能兑现承诺，被体育博彩和加密货币主导
理论上，预测市场能够汇集分散的知识以做出更好的决策，并且其规模已显著增长，Polymarket 和 Kalshi 等平台的月交易额现已达数十亿美元。然而，绝大部分交易量是由体育博彩和加密货币投机驱动的，而非政策相关问题。尽管 Google 和 CIA 等一些机构曾尝试过内部市场，但其更广泛的社会预测能力受到阻碍，因为除了个人投注者之外，对其预测的需求有限，尽管在风险监测和新闻解读方面具有潜在优势。