OoO-Spec

新的 OoO-Spec 方法可大幅加快 LLM 工具调用速度

研究人员开发了 OoO-Spec，一种加速大型语言模型 (LLM) 工具调用的新方法。该技术利用一个较小的 Qwen3-0.6B 模型作为辅助，并行预测函数选择和参数值，与传统的逐令牌生成相比，显著加快了过程。OoO-Spec 在自回归解码方面实现了高达 5.34 倍的速度提升，并且优于 ToolSpec 等现有方法，证明了其在各种 LLM 目标和基准测试中的有效性。