Telperion 发布了 Qwen3.8-27B 模型的两个新的潜在注意力变体:Qwen3.8-27B-MLA 和 Qwen3.8-27B-GLA-g2。这些变体实现了 4 倍的 KV 缓存压缩,分别可能在消费级和服务器硬件上显著增加上下文长度或并发性。MLA 变体在 SWE-bench 性能上表现出显著提升,而两个变体都展示了更高效的推理能力,输出 token 更少。 AI
影响 这些潜在注意力变体可能在消费级硬件上实现更大的上下文窗口和更高效的推理。
排序理由 发布具有技术改进的新模型变体,来自一家专注于研究的实体。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →