Rock Matrix 与香港科技大学和卡内基梅隆大学合作,已将 EdgeRock-4B 作为开源模型发布。该新模型基于 Alibaba 的 Qwen3.5-4B,并采用了滑动窗口注意力和内存锚点技术。这些创新将 256K 上下文的 KV 缓存大小显著降低至 72 MiB,相比 Qwen 的 8 GiB 减少了 99.1%,同时保持了基础模型 AIME 分数的 96.3%。 AI
影响 此次发布提供了一个内存效率更高的 LLM,有望在资源受限的设备上实现更广泛的部署。
排序理由 技术创新模型衍生版的开源发布。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — sigmoid.social 阅读 →
- Alibaba Group
- Carnegie Mellon University
- EdgeRock-4B
- Hong Kong University of Science and Technology
- Qwen3.5 4B
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →