Ollama 发布了 v0.40.9 版本,引入了多项新功能和改进。此次更新支持使用 Phonon 在 Apple Silicon 上进行语音生成,允许用户朗读文本或模型回复,并通过兼容 OpenAI 的端点流式传输音频。此外,Ollama 现在支持 vLLM Semantic Router 的决策模型,能够根据文本、结构化状态或图像对选项进行分类、是/否回答和评分。该版本还将 Flint 引入 Linux 和 Windows,并进行了其他增强,例如改进了流式请求错误报告和对编码工具更好的上下文长度处理。 AI
影响 通过语音和决策能力等新功能增强了本地 LLM 的可用性。
排序理由 这是用于本地运行 LLM 的工具的软件发布,不是前沿模型发布或重大的行业事件。
- Anthropic
- Apple Silicon
- arXiv
- GitHub
- GitHub Copilot
- GPicSync
- Halcyon
- Halcyon-1.6B
- Hugging Face
- JiT-T2I-XXL/8++
- Keshigeyan Chandrasegaran
- Linux
- LlamaGen-XL/8
- macOS
- Microsoft Windows
- Ollama
- OpenAI
- Phonon
- vLLM Semantic Router
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →