yomaytk

llama.cpp 为 Qwen3-Next 模型添加 MTP 支持

开源项目 llama.cpp 发布了 b10238 版本，为 Qwen3-Next 大语言模型增加了多触角感知 (MTP) 支持。此次更新使得在消费级硬件（包括 CPU 和 GPU）上更高效地进行 Qwen3-Next 的本地推理成为可能。该版本还包含对 Python 类型检查和 MTP 层计算的持续改进，展示了 llama.cpp 在快速集成和优化新的开源模型以供本地执行方面的承诺。