PR#27210

llama.cpp 引入自适应 MTP 并采用语义化版本控制

llama.cpp 的一项新拉取请求引入了自适应多令牌预测 (MTP) 模式，旨在动态调整 MTP 深度以获得最佳性能。虽然常规文本生成速度可能会略有下降，但在编码任务和回忆对话早期信息方面速度显著提高，最高可达 50%。建议使用特定的配置设置来启用自适应 MTP，以允许动态深度范围。另外，llama.cpp 已过渡到语义化版本控制，并发布了其首个正式版本 v0.1.0。