PulseAugur
中
实时 02:36:55
实体 AMD Instinct MI355X

AMD Instinct MI355X

PulseAugur coverage of AMD Instinct MI355X — every cluster mentioning AMD Instinct MI355X across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_239960 ·

    vLLM 为 AMD GPU 添加推测解码，提升推理速度

    vLLM 已为 AMD GPU 实现了推测解码，这是一种通过让一个较小的草稿模型提出标记，然后由一个较大的目标模型进行验证，从而实现更快推理的技术。此功能针对使用 ROCm 平台的 AMD Instinct MI300X 和 MI355X GPU 进行了优化，可带来显著的速度提升，基准测试显示某些模型的吞吐量最高可提高 30%。与 NVIDIA GPU 相比，该实现的目的是提供更具成本效益的扩展解决方案，并通过消除对自定义 CUDA …