Pearl's Ladder of Causation

新基准 CausalT5k 诊断 LLM 因果推理失败

研究人员推出了 CausalT5k (CTK)，这是一个新的诊断基准，旨在识别大型语言模型因果推理能力的特定失败模式。CTK 包含 10 个领域中的 5,000 多个案例，并涵盖了 Pearl 因果阶梯的所有三个级别。与仅关注正确性的现有基准不同，CTK 注释了因果阶梯、陷阱类型、压力敏感性和拒绝质量，以揭示模型失败的原因。该基准旨在为研究这些细微的因果推理失败情况提供基础。