TVM AutoScheduler

新方法利用世界模型加速张量程序优化

研究人员开发了一种新颖的方法来优化机器学习系统的张量程序，将调度评估建模为潜在动态。这种受世界模型启发的 方法使用轻量级转换模型在连续潜在空间中预测程序状态，避免了昂贵的代码变异和编码。当在 TVM AutoScheduler 中实现时，与现有方法相比，它显著 降低了 GPU 和 CPU 上的子图延迟，并加速了全模型推理，所有这些都在减少的测量预算内完成。