llama.cpp 新增原生工具，Qwen 发布 35B GGUF 模型

llama.cpp 项目已将其服务器直接集成了包括 shell 命令执行和文件编辑在内的原生工具，使本地大型语言模型能够执行操作和自动化任务。这一进展有助于创建更多能够完全在本地硬件上运行的自主代理。此外，一个拥有 350 亿参数的新 Qwen 模型 Qwen3.6-35B-A3B 已以 GGUF 格式发布，针对消费级硬件上的高效本地推理进行了优化。 AI

影响 增强了本地 AI 代理的能力以及大型开源模型在消费级硬件上的可访问性。

排序理由 该集群详细介绍了用于本地推理的开源工具和模型发布的更新，而不是来自主要实验室的前沿模型发布。[lever_c_demoted from research: ic=1 ai=0.7]

在 dev.to — LLM tag 阅读 →

• edit_file
• exec_shell
• GGUF
• llama.cpp
• Ollama
• Qwen3.6-35B-A3B

• 模型发布
• 产品
• 其他

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →