研究人员开发了一种几何自适应解释器（GAE），旨在提高字典式可解释性方法在模型遇到分布外数据时的忠实度。GAE解决了由分布偏移引起的失调问题，分布偏移会旋转模型激活的活动子空间，从而导致解释器字典失调。通过仅使用无标签的分布外数据将字典与分布外活动子空间重新对齐，GAE在无需梯度更新的情况下增强了因果忠实度，其性能与现有的基于训练的方法相当或更优。 AI
影响 提高了AI模型在遇到新的、未见过的数据时的解释可靠性，这对于安全性和调试至关重要。
排序理由 该集群包含一篇详细介绍AI模型可解释性新方法的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2605.21849v1 Announce Type: cross Abstract: Mechanistic interpretability aims to explain a model's behavior by identifying causally responsible internal structures. Dictionary-based explainers such as sparse autoencoders and transcoders are a primary tool, but their faithfu…
Mechanistic interpretability aims to explain a model's behavior by identifying causally responsible internal structures. Dictionary-based explainers such as sparse autoencoders and transcoders are a primary tool, but their faithfulness under out-of-distribution (OOD) shift has re…