Leviathan et al.

投机性解码速度提升的谜团在 Apple Silicon 上得到解决

作者调查了旨在加速大型语言模型推理的投机性解码技术为何在 Apple Silicon 上未能实现预期的性能提升。最初的假设集中在 MPS 分派开销和草稿模型的大小上，但两者都被证明只是部分解释或不正确。调查显示，理论上的加速计算并未考虑到实际的硬件成本，并且接受率比预期更具可变性和内容依赖性。作者还注意到实测加速超过理论极限的情况，这表明硬件成本的建模方式存在更深层次的问题。