PulseAugur
中
实时 09:57:24
实体 Tideway

Tideway

PulseAugur coverage of Tideway — every cluster mentioning Tideway across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_366565 ·

    TIDEWAY系统可在消费级设备上实现高效的MoE模型推理

    一个名为TIDEWAY的新系统已被开发出来,可在内存有限的消费级设备上高效推理大型混合专家(MoE)模型。TIDEWAY将主机RAM和GPU VRAM管理为一个统一的内存池,适应预填充和解码阶段的不同访问模式。评估表明,TIDEWAY的性能显著优于现有系统,在延迟和吞吐量方面提供了实质性的加速。