Jiaye Li

新型自适应kNN图模型加速AI推理速度

研究人员开发了一种自适应图模型，用于增强大规模AI应用的k近邻（kNN）算法。该新模型通过将分层可导航小世界（HNSW）图与预计算的投票机制相结合，将推理延迟与计算复杂性解耦。该方法将邻居选择的计算负担转移到训练阶段，从而能够更快地遍历较高的图层，并在较低的图层中实现精确的自适应邻居计数。跨六个数据集的基准测试表明，该架构在不牺牲分类准确性的情况下显著加快了推理速度，为kNN固有的推理瓶颈提供了可扩展的解决方案。