实体 H100 NVL GPU

H100 NVL GPU

PulseAugur coverage of H100 NVL GPU — every cluster mentioning H100 NVL GPU across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_326178 · Oct 26 · 12:32

AI推理通过多巨型内核方法优化，性能优于单个内核

研究人员开发了一个新的框架，通过战略性地组合多个巨型内核而不是依赖单个单体内核来优化AI模型的流式推理。该方法在NH-TTS、Qwen3-TTS和Llama-1B模型上进行了测试，发现最佳性能通常涉及两个到四个专用巨型内核或完全传统的图执行。该框架通过模拟瓦片和事件图来预测最佳配置，避免了完整的端到端运行。对于H100 NVL GPU上的NH-TTS模型，该方法与单个巨型内核设计相比，首次音频生成时间减少了21.4%，吞吐量提高了28…