Zamba2-1.2B

AI初创公司VIDRAFT推出AX-RAY以检测模型中隐藏的因果泄露

AI安全初创公司VIDRAFT开发了一个名为AX-RAY的新审计框架，用于检测混合序列模型中的因果泄露。这种泄露发生在未来令牌信息不当地影响早期位置时，这种缺陷会人为地夸大性能指标。该框架在arXiv论文中进行了详细介绍，在注入合成故障后，成功地在两个已公开的模型Nemotron-H-8B和Zamba2-1.2B中识别出了这个问题。AX-RAY旨在为AI模型提供一种精确、无需训练且与架构无关的验证技术。