PulseAugur
中
实时 15:28:12
English(EN) CausalT5k: Diagnosing Refusal and Failure Modes in Trustworthy Causal Reasoning Across Causal Rungs

新基准 CausalT5k 诊断 LLM 因果推理失败

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出了 CausalT5k (CTK)，这是一个新的诊断基准，旨在识别大型语言模型因果推理能力的特定失败模式。CTK 包含 10 个领域中的 5,000 多个案例，并涵盖了 Pearl 因果阶梯的所有三个级别。与仅关注正确性的现有基准不同，CTK 注释了因果阶梯、陷阱类型、压力敏感性和拒绝质量，以揭示模型失败的原因。该基准旨在为研究这些细微的因果推理失败情况提供基础。 AI

影响 提供了一个新的诊断工具，以更好地理解和解决 LLM 因果推理中的特定失败模式。

排序理由 该集群包含一篇介绍评估 AI 能力的新基准的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Longling Geng, Andy Ouyang, Theodore Wu, Daphne Barretto, Matthew John Hayes, Rachael Cooper, Yuqiao Zeng, Sameer Vijay, Gia Ancone, Ankit Rai, Matthew Wolfman, Patrick Flanagan, Edward Y. Chang ·

    CausalT5k: Diagnosing Refusal and Failure Modes in Trustworthy Causal Reasoning Across Causal Rungs

    arXiv:2602.08939v2 Announce Type: replace Abstract: Large language models increasingly produce fluent causal explanations, yet they often fail in ways aggregate accuracy cannot diagnose: confusing association with intervention, abandoning correct judgments under pressure, over-re…

相关话题