Ollama 自 2026 年 9 月发布的 0.34.1 版本起已弃用 LoRA 适配器支持。此更改意味着包含 ADAPTER 行的 Modelfiles 将导致错误,并且 Ollama 不再处理 safetensors 到 GGUF 或 GGUF 量化的转换。用户现在有两种主要方法来使用 LoRA 微调:要么将适配器直接合并到基础模型中,然后将生成的单个 GGUF 文件导入 Ollama,要么单独管理适配器并使用 llama.cpp 的 llama-server 进行服务。测试表明,将适配器合并到模型中可以在 CPU 上实现约 13% 的更快的生成速度。 AI
影响 用户必须调整工作流程,以便在 Ollama 中进行本地模型微调和部署。
排序理由 现有工具的功能性更改,而非新模型发布或研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →