实体
z-Labor
z-Labor
PulseAugur coverage of z-Labor — every cluster mentioning z-Labor across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Thinking Machines 在 Modal 上推出多模态 AI 模型 Inkling
Thinking Machines 推出了 Inkling，这是一款能够处理文本、图像和音频以生成文本输出的新型多模态 AI 模型。该模型采用混合专家架构，拥有 9750 亿个总参数和 100 万个 token 的上下文窗口，旨在实现高效和快速。Inkling 现在可通过 Modal 的托管端点访问，提供基于 token 的定价和为代理工作负载优化的性能。
-
Modal 发布 Qwen 投机解码器，LLM 推理速度提升 5-20% · 跟踪 1 个来源
Modal 发布了一套用于 Qwen 系列的新投机解码模型，旨在显著加速 LLM 推理。这些模型与 z-Labor 合作开发并与 SGLang 集成，在现有 DFlash 投机器之上提供了额外的 5-20% 加速。这一进步使得 Qwen 3.5 122B-A10B 等模型在高端硬件上能够达到每秒 1000 多个 token，同时保持长上下文任务的性能。Modal 强调投机解码是 LLM 推理的关键优化，与传统的内核优化相比，能够带来显…