Judea Pearl
PulseAugur coverage of Judea Pearl — every cluster mentioning Judea Pearl across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
文章发现，强化学习中的因果推理面临数据损坏的挑战
一篇新文章探讨了将因果推理整合到强化学习（RL）智能体中的挑战。虽然因果模型有望为RL带来更强的泛化能力和干预能力，但如果学习到的因果图不正确，其性能可能比标准的基于相关性的方法更差。文章强调，RL智能体策略收集的数据会破坏因果发现过程，使得某些因果关系在统计学上变得不可见。这项工作旨在阐明因果模型何时能使RL从业者和研究人员受益，尤其是在非平稳环境中。
-
新论文表明大型语言模型通过差异制造逻辑学习因果关系
一篇新论文提出，大型语言模型（LLMs）通过一种称为变分归纳的过程学习因果结构，该过程依赖于识别文本数据中的差异制造者。研究认为，LLMs采用一种与实验方法平行的逻辑，即改变环境可以揭示因果关系。这种归纳方法在训练过程中通过处理大量文本来识别有影响力的词语和短语来实现，其中令牌嵌入和自注意力等架构特征起着关键作用。
-
新的模拟器和框架推动具身AI的研究与部署
研究人员正在开发先进的模拟器和框架，以增强具身AI的研究和部署。SPEAR是一个Python库，为Unreal Engine应用程序提供高速、照片级逼真的渲染和广泛的可编程性。另一篇论文介绍了“Embodied Operators”作为具身智能系统的可重用模块，并提出了一个用于评估它们的基准框架。此外，一种名为Agent Architecture Search (AAS)的新方法可以自动化具身智能体架构的设计，超越了手动构建。同时，也…
-
AI研究质疑专家混合模型中的专家重要性指标
一篇新的研究论文调查了可解释性方法在专家混合（MoE）模型中的有效性。研究发现，用于预测哪些专家可以被移除而不影响性能的常用指标，与因果专家重要性并不可靠地相关。在三种不同的MoE架构中，观察性数据未能预测专家的可替代性，这表明当前的剪枝技术可能由于冗余而不是精确识别关键组件而成功。
-
新的“工具化数据”概念推动科学机器学习发展
研究人员引入了一个名为“工具化数据”的新概念，用于科学机器学习，旨在克服当前数据类型的局限性。这种方法将机械模型、其不确定性和反事实直接嵌入到每个数据点中。预计这种方法将改进各个科学领域的验证、审计和代理训练，并可能影响未来用于科学推理的基础模型。
-
AI 安全专家批评 Bengio 的“科学家 AI”计划
对 Yoshua Bengio 的“科学家 AI”提案的批评引发了对其对齐失败和实际可行性的担忧。作者认为，阻止 AI 进行探索性代理行为（科学发现的关键方面）将阻碍其进步，并可能导致不安全的结果。此外，基于关联概率而非真正因果推理的训练方法被视为根本性限制。尽管有这些批评，作者承认 Bengio 短期内对 LLM 进行微调以识别用户请求中潜在风险的计划的价值，并赞赏“随时准备”的框架。
-
论文认为因果推理是可信赖人工智能的关键
一篇新论文认为，因果推理对于开发可信赖的人工智能至关重要，因为当前系统擅长预测，但在区分相关性和因果关系方面存在困难。研究提出，要实现真正的智能和鲁棒性，需要编码因果结构，形式化区分预测和干预。作者将因果盲症视为人工智能故障（如幻觉和分布偏移退化）的根本原因，并提供根植于因果推理的统计补救措施。
-
AI代理通过新的编码工具和推理能力取得进展
几篇近期博文探讨了AI代理的进展和应用，特别是在编码和推理任务方面。主题包括构建能够打开GitHub拉取请求的自主编码代理，使用Continual Harness等模式来构建自我改进的代理，以及将Cursor等工具集成到代理工作流中。还讨论了LLM在因果推理中的推理局限性以及用于网络抓取的浏览器指纹识别的新方法，同时也在努力为机器学习模型自动化超参数调优。
-
新型VaCoAl内存架构连接神经科学与高维计算
研究人员推出了一种新型代数确定性内存架构VaCoAl，旨在统一计算神经科学与高维计算。该架构基于伽罗瓦域线性反馈移位寄存器构建，为内存分解提供了寄存器级别的随机投影替代方案。VaCoAl旨在为Vector-HaSH和Tolman-Eichenbaum Machine等理论提供共享的代数基础，并与Judea Pearl的因果阶梯理论联系起来，以进行因果推理。
-
新方法使用物理模拟器进行具有潜在混淆因素的因果发现
研究人员引入了CFM-SD，一种新颖的因果发现方法，能够有效处理潜在混淆因素和现实世界干预数据。该方法利用第一性原理物理模拟器作为do-运算符，显著优于现有假设因果充分性的方法。CFM-SD在合成数据上表现出卓越的性能，并在降低分子毒性预测和电池电解质优化偏差方面显示出实际价值。
-
Shadow-Loom 框架使用因果推理构建叙事世界模型
研究人员开发了 Shadow-Loom，一个开源框架，旨在从叙事中创建图形世界模型。该系统采用基于 Judea Pearl 工作的因果物理学和叙事物理引擎，通过悬念和惊悚等状态来分析读者参与度。虽然大型语言模型用于提取和审计等边界任务，但核心推理过程由在图上操作的类型化代码处理。
-
AI研究探索因果发现和LLM在法律论证生成中的应用
两篇新研究论文探讨了AI在法律论证生成中的应用。其中一篇论文指出了法律论证挖掘中的一个根本性挑战：缺乏一种平衡理论表达能力和计算可行性的结构化方法，尽管LLM取得了进展，但这阻碍了进步。另一篇论文则通过分析标注的法律数据集并发现法律概念之间的因果关系，研究了因果发现算法（通常应用于医学和经济学等领域）在生成法律论证中的使用。