PulseAugur
中
实时 19:21:59
实体 streaming multiprocessor

streaming multiprocessor

PulseAugur coverage of streaming multiprocessor — every cluster mentioning streaming multiprocessor across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
2
90 天内 4
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天

2 天有情绪数据

最近 · 第 1/1 页 · 共 4 条
  1. TOOL · CL_326827 ·

    GPU 集群监控揭示显著的利用率不足的机会

    一篇新的研究论文详细介绍了对大学 GPU 集群进行细粒度监控研究的发现,揭示了显著的利用率不足。这项研究在 10 天内使用一种以 100 毫秒间隔捕获指标的轻量级工具进行,发现超过 70% 的作业使用的 GPU 内存不到 20%,而 50% 的作业平均流式多处理器利用率低于 5%。研究表明,通过改进的作业调度和多任务处理,可以在不依赖硬件或应用程序进步的情况下,显著提高 GPU 利用率。

  2. RESEARCH · CL_333169 ·

    GPU集群监控揭示显著的利用不足,优化空间充足

    Hugging Face 的一篇新论文详细介绍了对大学 GPU 集群进行监控后发现的显著利用不足的情况。研究发现,超过 70% 的作业使用了不到 20% 的 GPU 内存,而 50% 的作业平均 SM 利用率低于 5%,这表明在调度和多任务处理方面有很大的改进空间。这项为期 10 天、包含 7,399 个作业的研究表明,更好的资源管理可以在不升级硬件的情况下实现显著的收益。

  3. TOOL · CL_268396 ·

    GPU术语表:硬件、软件和性能详解

    本条目是一个术语表,定义了与图形处理单元(GPU)及其架构相关的术语。它涵盖了流式多处理器、着色器核心和矩阵核心等硬件组件,以及CUDA编程模型和编译器实用程序等软件方面。该术语表还深入探讨了性能指标和潜在瓶颈,为理解GPU技术提供了全面的参考。

  4. TOOL · CL_160268 ·

    NumPy实现Flash Attention展示出显著的内存节省

    本文详细介绍了如何从零开始使用NumPy实现Flash Attention。Flash Attention通过避免物化占用大量内存的大型N×N注意力分数矩阵来优化Transformer模型。通过将计算分块并放入快速片上SRAM中,它极大地减少了内存使用量,在8192个token的序列长度下实现了8128倍的节省。