nemotron-h

新审计方法可检测序列模型中的因果关系中断

研究人员开发了一种新的审计方法，用于检测序列模型中的因果关系中断，即使在正确应用注意力掩码的情况下也可能发生。这种轻量级审计只需两次前向传播，无需训练或梯度即可精确识别表示依赖于未来输入的点。在对八个模型检查点和 192 次注入故障的测试中，该审计成功定位了所有缺陷，包括 Zamba2 和 Nemotron-H 中的问题，而传统的掩码检查方法未能检测到这些问题。