实体
Tensor Cores
Tensor Cores
PulseAugur coverage of Tensor Cores — every cluster mentioning Tensor Cores across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
GPU矩阵乘法优化技术详解
本文深入探讨了在现代GPU上优化矩阵乘法（matmul）的高级技术。内容涵盖了Tensor Cores等专用硬件功能和内存传输加速器（TMA），以及warp专业化策略。目标是提升对AI和机器学习工作负载至关重要的基础运算性能。
-
Together AI发布FlashAttention-3和-4，加速大语言模型处理
Together AI发布了FlashAttention-3和FlashAttention-4，这是其用于大语言模型的GPU加速注意力机制的重大升级。FlashAttention-3专为Hopper GPU设计，通过利用张量核心（Tensor Cores）和张量内存加速器（Tensor Memory Accelerator）等新硬件特性并支持FP8精度，实现了高达75%的利用率和比前代产品快1.5-2倍的速度。FlashAttenti…
-
Sakana AI、NVIDIA 发布 TwELL，加速 LLM 训练和推理
Sakana AI 和 NVIDIA 的研究人员开发了 TwELL，这是一种显著加速大型语言模型 (LLM) 操作的新方法。通过针对计算密集型的前馈层，TwELL 实现了高稀疏性，并在 GPU 上转化为实际性能提升。该方法在不影响模型准确性的情况下，训练速度最高提升 21.9%，推理速度最高提升 20.5%。