NVIDIA A40

GraphMend 编译器技术修复 PyTorch 2 图中断，提升性能

研究人员开发了 GraphMend，一种旨在解决 PyTorch 2 程序中 FX 图中断问题的新型编译器技术。这些中断由动态控制流和不支持的 Python 结构引起，通常会导致性能下降和优化机会减少。GraphMend 采用源代码转换来消除这些中断，从而实现更大、不间断的计算图。在 Hugging Face 模型上的评估显示，延迟显著降低，吞吐量提高，从而提高了 PyTorch 开发者的可用性和性能。