实体
streaming multiprocessor
streaming multiprocessor
PulseAugur coverage of streaming multiprocessor — every cluster mentioning streaming multiprocessor across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
GPU术语表:硬件、软件和性能详解
本条目是一个术语表,定义了与图形处理单元(GPU)及其架构相关的术语。它涵盖了流式多处理器、着色器核心和矩阵核心等硬件组件,以及CUDA编程模型和编译器实用程序等软件方面。该术语表还深入探讨了性能指标和潜在瓶颈,为理解GPU技术提供了全面的参考。
-
NumPy实现Flash Attention展示出显著的内存节省
本文详细介绍了如何从零开始使用NumPy实现Flash Attention。Flash Attention通过避免物化占用大量内存的大型N×N注意力分数矩阵来优化Transformer模型。通过将计算分块并放入快速片上SRAM中,它极大地减少了内存使用量,在8192个token的序列长度下实现了8128倍的节省。