cmt tune

工具将 B300 GPU 上的 cudaMemcpy 数据传输速度提升 5 倍

一位开发者创建了一个工具，可以显著加速 CPU 和 GPU 内存之间的数据传输，特别是针对 `cudaMemcpy` 操作。该工具名为 `cmt tune`，在 B300 GPU 上传输 1 GB 张量时，速度提升了五倍，性能从 10.2 GB/s 提高到 51.5 GB/s。该项目包括一篇详细介绍该过程的博客文章和一个用于代码的 GitHub 存储库。