研究人员开发了 GraphMend,一种旨在解决 PyTorch 2 程序中 FX 图中断问题的新型编译器技术。这些中断由动态控制流和不支持的 Python 结构引起,通常会导致性能下降和优化机会减少。GraphMend 采用源代码转换来消除这些中断,从而实现更大、不间断的计算图。在 Hugging Face 模型上的评估显示,延迟显著降低,吞吐量提高,从而提高了 PyTorch 开发者的可用性和性能。 AI
影响 提高了 PyTorch 2 的编译效率,可能带来更快的模型训练和推理。
排序理由 这是一篇介绍 PyTorch 2 新优化技术的学术论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →