实体
Numa
Numa
PulseAugur coverage of Numa — every cluster mentioning Numa across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的 Linux 技术 CRAM 压缩 RAM 以实现大幅提速
一项名为 CRAM 的新 Linux 技术已被开发出来，用于直接在 RAM 中压缩数据，与 ZRAM 等现有方法相比，性能有了显著提升。CRAM 由 Meta 的 Gregory Price 及其团队构思，通过将压缩数据保留在内存中并利用私有的 NUMA 节点以实现更快访问，从而避免了传统的交换操作。虽然 CRAM 在只读操作方面比 ZRAM 快 452 倍，但在管理写入和确定可压缩性方面仍面临挑战，这些是正在进行研究的领域。
-
新的 "--numa mirror" 模式提升 CPU 推理性能
一位开发者 fork 了 ik_llama.cpp 项目，引入了一个新的 "--numa mirror" 模式，旨在提升多路 CPU 系统的性能。该模式通过为每个 CPU 插槽创建模型权重和 KV 缓存的副本，解决了 CPU 访问非本地内存时产生的显著性能损失问题。虽然这需要更多的 RAM，但它允许利用所有插槽上的所有 CPU 核心来加速推理，这与仅限于单个插槽使用的 "--numa isolate" 模式不同。开发者正在寻找测试者来…