Corr2Cause

新研究：大型语言模型在因果发现方面存在根本性缺陷

一篇新论文认为，由于其训练范式的固有局限性，大型语言模型（LLMs）在可靠的因果发现方面存在根本性的不足。研究人员已证明，监督微调和直接偏好优化等方法训练出的模型无法区分生成相似观测数据的因果图。为克服这一问题，该论文提出了一种“智能体式因果贝叶斯优化”（A-CBO）方法，该方法使用一个冻结的LLM作为干预式神谕，并通过外部贝叶斯循环将信念集中在候选图上，从而在不重新训练LLM的情况下实现可证明的收敛。