z-Labor
PulseAugur coverage of z-Labor — every cluster mentioning z-Labor across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
BAAI的AREX-2模型尽管基于Qwen架构,但部署时仍需谨慎
北京人工智能研究院(BAAI)发布了AREX-2,一个基于Qwen架构的27B参数模型。虽然其配置文件最初看起来与Qwen3.8-27B相同,但权重文件存在细微差别,特别是缺少多token预测头,这需要不同的部署方法。此外,AREX-2的NVFP4等优化量化版本仍未发布,并且其与推测性解码和长上下文设置的兼容性需要仔细考虑。
-
Z-Lab 发布 DFlash-2 以加快 LLM 生成速度
Z-Lab 发布了 DFlash-2,这是一种通过预测即将生成的 token 来加速大型语言模型 (LLM) 生成的改进技术。与前代产品不同,DFlash-2 在准确性和吞吐量方面均有显著提升,尤其是在特定参数设置下进行测试时。尽管其底层机制与原始 DFlash 相似,但 DFlash-2 的改进使其在某些场景下优于基础模型,尽管截至 2026 年 8 月,其支持仍仅限于少数模型。
-
DFlash 扩散模型在测试中未能加速 Gemma LLM
一种名为 DFlash 的新技术旨在通过使用通常用于图像生成的扩散模型来同时预测多个令牌,从而加速 LLM 生成。与其他专注于特定模型的方法不同,DFlash 被设计成一种通用的附加组件,可与包括 Google、MiniMax 和 Qwen 在内的各种 LLM 兼容。然而,对 Gemma-4-12B 的实际测试表明,DFlash 在速度上并未优于 Gemma 的原生 Assistant 模型。
-
Thinking Machines 在 Modal 上推出多模态 AI 模型 Inkling
Thinking Machines 推出了 Inkling,这是一款能够处理文本、图像和音频以生成文本输出的新型多模态 AI 模型。该模型采用混合专家架构,拥有 9750 亿个总参数和 100 万个 token 的上下文窗口,旨在实现高效和快速。Inkling 现在可通过 Modal 的托管端点访问,提供基于 token 的定价和为代理工作负载优化的性能。
-
Modal 发布 Qwen 投机解码器,LLM 推理速度提升 5-20% · 跟踪 1 个来源
Modal 发布了一套用于 Qwen 系列的新投机解码模型,旨在显著加速 LLM 推理。这些模型与 z-Labor 合作开发并与 SGLang 集成,在现有 DFlash 投机器之上提供了额外的 5-20% 加速。这一进步使得 Qwen 3.5 122B-A10B 等模型在高端硬件上能够达到每秒 1000 多个 token,同时保持长上下文任务的性能。Modal 强调投机解码是 LLM 推理的关键优化,与传统的内核优化相比,能够带来显…