Qwen3.8-27B-EAGLE4

开发者在 Mac 上测试 MTP 加速效果，结果喜忧参半

一位开发者在他们的 Mac Studio 上测试了多令牌预测 (MTP) 的性能，发现它能显著加快某些模型的代码生成速度，但也会拖慢其他模型的速度。引发此次测试的 EAGLE-4 推测解码方法与 Mac 硬件不兼容。开发者的发现表明，MTP 可将 27B 参数模型的生成速度提升高达 92%，但也会导致 35B MoE 模型的性能下降 19%，并可能改变输出文本的质量。