实体
OpenAI Triton
OpenAI Triton
PulseAugur coverage of OpenAI Triton — every cluster mentioning OpenAI Triton across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
英伟达的 Vera Rubin NVL72 与 GB200 NVL72 在新分析中对决
SemiAnalysis 发布了一项分析,比较了英伟达的 Vera Rubin NVL72 和 Blackwell GB200 NVL72 系统。比较侧重于推理总拥有成本和架构差异,包括 Rubin 的基于 LUT 的 Tensor Core、每兆瓦性能、每美元性能以及软件改进。分析还涉及 Rubin、PyTorch、vLLM 和 OpenAI Triton 的公开软件发布。
-
NVIDIA Vera Rubin NVL72 vs GB200 NVL72:成本和架构分析
SemiAnalysis 发布了一份分析报告,将 NVIDIA 的 Vera Rubin NVL72 与 GB200 NVL72 进行比较,重点关注推理的总拥有成本和架构差异。该分析强调了 Rubin 基于查找表(LUT)的张量核心及其对每兆瓦和每美元性能的影响。报告还详细介绍了软件改进,包括公共 Rubin 软件及其与 PyTorch 和 vLLM 的兼容性,并提到了 OpenAI Triton。
-
TritonMoE 内核实现跨平台 MoE 推理
研究人员开发了 TritonMoE,这是一种用于专家混合(MoE)模型的新推理内核,完全使用 OpenAI 的 Triton 语言编写。该内核实现了跨平台兼容性,无需供应商特定的代码即可在 NVIDIA 和 AMD 硬件上运行。它展示了显著的性能提升,在较短的 token 序列吞吐量方面优于 Megablocks 等现有方法,尽管在非常长的上下文或大量专家方面存在局限性。