实体
InterpBench
InterpBench
PulseAugur coverage of InterpBench — every cluster mentioning InterpBench across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
机制可解释性研究揭示目标级恢复差距
一篇题为“我们是否正在恢复机制？机制可解释性中的目标级恢复差距”的新研究论文已在arXiv上发表。该论文调查了当前机制可解释性方法的有效性，该方法旨在理解AI模型的内部计算。研究人员发现，评估目标有时会偏向不太准确的电路，从而产生“目标级恢复差距”。在各种任务和方法中都观察到了这种差距，有相当一部分候选对被错误排序。研究表明，上下文失真（输入的变化会影响保留的组件）导致了这个问题。从完整模型的执行中恢复特定信号被证明可以纠正这些错误排…
-
图学习框架解决了Transformer电路定位问题
研究人员推出了一种名为图电路学习（GCL）的新型框架，该框架将Transformer模型中的电路定位视为一个图机器学习问题。该方法跨多个模型-任务对训练图神经网络（GNN），以识别负责特定行为的稀疏子图。在评估中，GCL配置在基准数据集上实现了0.902的中位数边AUROC，显示了这种电路定位视角的前景。