Yanshan Technology

新型 EdgeRock-4B 模型将 KV Cache 使用量削减 99%，吞吐量提升 6 倍

香港科技大学和卡内基梅隆大学的研究人员与燕山科技合作，开发并开源了一个名为 EdgeRock-4B 的新模型。该模型将 KV Cache 的使用量显著减少了 99.1%，能够在不增加内存消耗的情况下实现更长的上下文窗口。与基础模型 Qwen3.5-4B 相比，EdgeRock-4B 的吞吐量提高了 6.42 倍，同时保持了强大的推理能力。这项创新在于一种名为 Rock Memory Anchors (RMA) 的新型内存机制，该机制选…