PulseAugur
中
实时 02:04:55
实体 RAMDeck

RAMDeck

PulseAugur coverage of RAMDeck — every cluster mentioning RAMDeck across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_359882 ·

    RAMDeck 通过优化网络使用来支持分布式本地 LLM

    RAMDeck 开发了一个系统,允许分布式本地大型语言模型 (LLM) 在多台机器上运行,而不会受到网络带宽的瓶颈限制。该系统通过将模型权重永久保留在本地内存中,并且仅在节点之间传输小的激活张量来实现这一点。这种方法确保网络传输时间与生成 token 所需的计算时间相比可以忽略不计,从而实现高效的分布式 LLM 推理。