llama.cpp 项目已更新,支持小米的 MiMo-V2.5 Sparse MoE 模型,允许在本地进行大型、参数高效模型的推理。此外,一个新发布的未经审查的 Qwen3.6 27B 模型现已提供 GGUF 格式以供本地使用,该模型具有改进的性能和更少的拒绝。基于 Qwen3 的 WebWorld 系列也已发布,提供多种参数大小,以促进能够与在线环境交互的本地 Web 代理的开发。 AI
影响 通过实现更高效的高级 MoE 模型推理和提供用于 Web 代理开发的专用模型,增强了本地 AI 功能。
排序理由 该集群详细介绍了开源推理引擎的更新和新开源模型的发布,属于研究类别。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →