Ollama 发布了 0.34.1 版本,带来多项更新。此次发布将 MLX safetensors 的 "ollama create" 功能从实验性移除,并改进了 Apple Silicon 上的 MLX 内存处理。此外,还改进了 runaway repeat token 检测,以减少误报,并且 `/api/tags` 端点的性能得到了显著提升,尤其是在处理大型模型库时。 AI
影响 通过 Ollama 改进了本地部署 LLM 的用户体验和性能。
排序理由 这是一个用于本地运行 LLM 的工具的软件发布,并非前沿模型发布或重大的行业事件。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →