The Mask Is Not the Model: Auditing Prefix Invariance in Attention, State-Space, and Hybrid Sequence Models
PulseAugur coverage of The Mask Is Not the Model: Auditing Prefix Invariance in Attention, State-Space, and Hybrid Sequence Models — every cluster mentioning The Mask Is Not the Model: Auditing Prefix Invariance in Attention, State-Space, and Hybrid Sequence Models across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI初创公司VIDRAFT推出AX-RAY以检测模型中隐藏的因果泄露
AI安全初创公司VIDRAFT开发了一个名为AX-RAY的新审计框架，用于检测混合序列模型中的因果泄露。这种泄露发生在未来令牌信息不当地影响早期位置时，这种缺陷会人为地夸大性能指标。该框架在arXiv论文中进行了详细介绍，在注入合成故障后，成功地在两个已公开的模型Nemotron-H-8B和Zamba2-1.2B中识别出了这个问题。AX-RAY旨在为AI模型提供一种精确、无需训练且与架构无关的验证技术。
-
新的审计方法可检测到注意力掩码所遗漏的因果关系泄露
研究人员开发了一种新的审计方法，用于检测序列模型中的因果关系违反，该方法超越了传统的注意力掩码检查。这种轻量级的审计只需两次前向传播而无需训练，即可精确地定位表示依赖于未来输入的层。研究发现，虽然注意力掩码检查遗漏了所有因果关系泄露，但他们的审计成功地识别了Zamba2和Nemotron-H等模型中的缺陷，同时确认了Bamba-9B、Falcon-H1、Granite-4.0-H、Mamba2和RecurrentGemma等其他模型是干净的。