Durmus Karatay

TreeWalker 加速分组数据的树集成推理

研究人员开发了 TreeWalker，这是一种新颖的推理技术，旨在加速处理分组相关数据行的树集成模型的处理。通过识别并将恒定特征视为静态，TreeWalker 通过划分变化特征和跳过不相关的子树来优化遍历。该方法与标准的 LightGBM 和 XGBoost 模型兼容，在 Intel 处理器上实现了高达 3 倍的性能提升，在 Arm 处理器上实现了高达 2.9 倍的性能提升，与中等规模分组的独立行方法相比，在更大分组规模下性能提升更大。