Ollama 发布了 v0.40.17-rc2 版本,其中包括对 mlxrunner 的更新。此次更新通过根据观察到的内存余量和执行工作区来调整已保存的历史记录,以更好地管理内存压力,而不是固定分配。这些更改旨在当系统压缩增加时释放未使用的缓冲区和冷历史记录,同时保留可重用路径和活动请求。 AI
影响 此次更新改进了 Ollama 的内存管理,可能提升本地运行 AI 模型的用户的性能和稳定性。
排序理由 这是特定版本软件工具的发布,并非前沿模型发布或重大行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →