新研究揭示管道选择导致AI可解释性分数偏差

一篇新发表在arXiv上的论文强调了用于比较语言模型中稀疏自编码器（SAEs）的自动可解释性分数存在显著方差。研究人员发现，评估管道的差异，而非模型架构，是导致模拟、检测和模糊测试等指标分数变化的主要原因。研究还表明，top-k特征排名可能不一致，掩盖了潜在的不稳定性。为解决这些问题，作者提出了一种方差分解方法、一个稳定性检查和一个最低报告清单，以提高可解释性研究的可靠性。 AI

影响 突出了评估AI可解释性的关键问题，可能减缓对复杂模型理解的进展。

排序理由 学术论文，详细介绍AI可解释性的方法和发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• alphaXiv
• Apertus-8B
• arXiv
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• IArxiv
• Pythia-160M
• ScienceCast
• Sinie Van Der Ben

• 论文
• 其他

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →