Nsight Compute
PulseAugur coverage of Nsight Compute — every cluster mentioning Nsight Compute across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
NVIDIA Nsight Python 简化了 Jupyter 和 Colab 中的 GPU 内核分析
NVIDIA 发布了 Nsight Python，这是其 GPU 内核分析器的开源接口。该工具允许开发人员将分析直接集成到他们的 Python 代码中，从而在 Jupyter 和 CoLab 等环境中实现硬件指标的实时分析。最新版本提供了增强功能，例如 CUPTI 后端和自定义信息收集器，有助于对 GPU 内核进行详细的性能分析和优化。
-
新的 LLM 推理技术提高了 GPU 利用率和效率
研究人员开发了一种新的方法来剖析 LLM 推理的 GPU 利用率，超越单一百分比，提供源自 Nsight Compute 报告的八个详细视图。该方法将利用率差距映射到诸如片段填充和占用限制等特定机制，从而更精细地理解 Nvidia Hopper 架构上的性能。另外，中国移动云推出了结合 GPU 和神经形态处理器的异构 LLM 推理堆栈，声称在 DeepSeek V4 Flash 等模型的输出、能源效率和运营成本降低方面取得了显著的进步。
-
手写 PTX 内核在 NVIDIA L4 GPU 上为 INT8/INT4 GEMM 带来显著加速
一篇新的研究论文探讨了在 NVIDIA L4 GPU 上使用手写 PTX（并行线程执行）内核进行 GEMM（通用矩阵乘法）运算的性能优势，与标准的 WMMA（Warp Matrix Multiply Accumulate）C++ API 相比。研究发现，虽然手写 PTX 在 FP16 精度下没有带来加速，但在 INT8（1.4倍-1.8倍）和 INT4（2.9倍-4.3倍）精度下实现了显著的性能提升。这些加速归因于指令数减少、全局内存…