PulseAugur
中
实时 07:56:14
实体 X-Mem

X-Mem

PulseAugur coverage of X-Mem — every cluster mentioning X-Mem across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_364280 ·

    XM-Sparse 系统通过新颖的内存卸载提升 LLM 服务吞吐量

    研究人员推出 XM-Sparse,一个旨在提高稀疏注意力机制大语言模型 (LLM) 服务效率的新颖系统。该系统通过将 KV 缓存和 K-index 数据卸载到横向扩展内存池,解决了 GPU 高带宽内存 (HBM) 容量的瓶颈。XM-Sparse 为每种缓存类型采用了定制的 I/O 机制,包括基于 TMA 的 KV 条目检索和 SM 高效的 K-index 访问预取 DMA。实验表明,与现有的基于 PCIe 的系统相比,XM-Spars…