实体
GPUDirect RDMA
GPUDirect RDMA
PulseAugur coverage of GPUDirect RDMA — every cluster mentioning GPUDirect RDMA across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AWS vLLM 通过双向 KV 缓存传输改进代理工作负载的 TTFT
AWS 在 vLLM 框架中引入了一种双向 KV 缓存传输机制，以提高多轮代理工作负载的性能。这种新方法允许预填充和解码节点跨对话轮次共享和重用先前计算的上下文，从而减少冗余计算并提高加速器利用率。在 Amazon EC2 P5en 实例上进行的基准测试显示，首次令牌时间 (TTFT) 显著缩短，对于 Qwen3-32B 最多提高 1.6 倍，对于 zai-org/GLM-5-FP8 最多提高 3.3 倍，具体取决于工作负载和配置。
-
vLLM 引入基于推送的 KV 传输以降低 LLM 推理延迟
vLLM，一个用于大型语言模型推理的开源引擎，引入了一种基于推送的键值（KV）缓存传输机制，以提高分离推理设置的性能。这种新方法旨在通过优化 KV 缓存从预填充到解码实例的传输来减少首次令牌时间（TTFT）和每输出令牌时间（TPOT）。在 AWS EC2 P5en 实例上进行的基准测试显示，与之前的基于拉取的方法相比，Qwen3-32B 模型的 TTFT 提高了 3 倍，TPOT 提高了 30%。