实体
Zamba2
Zamba2
PulseAugur coverage of Zamba2 — every cluster mentioning Zamba2 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的审计方法可检测到注意力掩码所遗漏的因果关系泄露
研究人员开发了一种新的审计方法，用于检测序列模型中的因果关系违反，该方法超越了传统的注意力掩码检查。这种轻量级的审计只需两次前向传播而无需训练，即可精确地定位表示依赖于未来输入的层。研究发现，虽然注意力掩码检查遗漏了所有因果关系泄露，但他们的审计成功地识别了Zamba2和Nemotron-H等模型中的缺陷，同时确认了Bamba-9B、Falcon-H1、Granite-4.0-H、Mamba2和RecurrentGemma等其他模型是干净的。
-
Hugging Face Transformers 添加 MiniMax-M3-VL、DeepSeek-V3.2 和 DiffusionGemma
Hugging Face Transformers 库已发布 5.12.0 版本，引入了 MiniMax-M3-VL 等新模型，这是一个具有 CLIP 式视觉塔和稀疏专家混合解码器的视觉语言模型。此次更新还包括对 PP-OCRv6（一个高效的 OCR 系统）和 Parakeet-RNNT（一个带有 RNN-T 解码器的快速 Conformer 编码器）的改进。此外，5.11.0 版本添加了 DiffusionGemma（一个用于更快文…