Ollama
PulseAugur coverage of Ollama — every cluster mentioning Ollama across labs, papers, and developer communities, ranked by signal.
- uses Gemma 4 90%
- used by Gemma 4 90%
- uses Open-WebUI 90%
- used by Qwen 2.5 90%
- uses Gemma4 90%
- used by Gemma4 90%
- used by Qwen3.6 35B-A3B 90%
- used by GTX 1080 Ti 90%
- instance of Gemma 4-12B 90%
- used by Gemma 3:1B 90%
- instance of Llama 3-70B 90%
- used by BGE M3-Embedding: Multi-Lingual, Multi-Functionality, Multi-Granularity Text Embeddings Through Self-Knowledge Distillation 90%
- 2026-07-09 funding Ollama announced a significant funding round, celebrating over 9 million active builders and the increasing adoption of open models. 来源
- 2026-07-09 funding Ollama secured $65 million in Series B funding, led by Theory Ventures, to expand its open-source AI model platform. 来源
- 2026-07-09 funding Ollama secured $65 million in Series B funding led by Theory Venture. 来源
- 2026-07-08 product_launch Ollama released version 0.31.2 with several updates and fixes. 来源
- 2026-07-02 product_launch Ollama released a new model named laguna-xs-2.1. 来源
- 2026-07-01 product_launch Ollama released version 0.31.1 with performance improvements for Gemma 4 on Apple Silicon. 来源
- 2026-06-30 product_launch Ollama released version 0.31.1, enhancing the loading of Gemma 4 MoE models. 来源
- 2026-06-27 product_launch Ollama released a new model named Ornithogalum. 来源
- 2026-06-26 product_launch Ollama released version 0.30.11, introducing new features and improvements. 来源
- 2026-06-18 product_launch Ollama released version v0.30.10, adding the Cohere2MoE model and updating llama.cpp. 来源
- 2026-06-15 product_launch Ollama released version v0.30.9-rc0, including an update to llama.cpp. 来源
- 2026-06-12 product_launch Ollama released version v0.30.8-rc0. 来源
- 2026-06-10 product_launch Ollama released version 0.30 with enhanced GPU support for faster local inference. 来源
- 2026-06-08 product_launch Ollama is presented as a tool for setting up a free, local AI server. 来源
- 2026-06-04 product_launch A developer details how to use Ollama for local LLM inference to significantly cut costs. 来源
30 天有情绪数据
-
Ollama 获融资,标志着开源 AI 领域增长
Ollama 宣布完成重要融资。Together AI 祝贺该公司并强调其成功。此次融资凸显了开源模型正日益成为开发者构建和管理其 AI 基础设施的首选。Ollama 拥有超过 900 万活跃开发者,其成就标志着开源 AI 生态系统的一个重要里程碑。
-
新的代理工具解决了长编码会话中LLM上下文记忆丢失问题
一位开发者创建了TokenMizer,这是一个本地代理,旨在解决大型语言模型在长时间编码会话中上下文窗口的限制。该工具通过构建对话图来工作,包括任务、决策和推理,而不是简单地重新发送原始聊天记录。这使得更有效的上下文管理成为可能,从而能够以显著更少的token恢复会话,并在更长的时间内保留决策历史。TokenMizer还包括一个文件智能层,用于处理具有token节省的大型数据文件,并与包括Claude、GPT、Gemini和Grok在…
-
人工智能成本指南揭示,模型路由可节省 90% 成本,而非仅限于 GPT-4o
一份 2026 年人工智能模型成本指南强调了市场分为三个层级:主权本地模型、成本优化的云模型和前沿云模型。该指南建议,大多数人工智能应用请求并不需要最强大、最昂贵的模型,例如 OpenAI 的 GPT-4o。通过实施智能路由,利用更便宜、功能强大的模型,如 DeepSeek V3.1 或 Llama 3.1 等本地模型,开发人员可以将其人工智能运营成本降低多达 90%,而不会影响应用程序代码或用户体验。
-
用户偏好使用 llama.cpp 而非 Ollama 来执行本地 LLM
一位用户发现,虽然 Ollama 简化了运行本地大型语言模型的过程,但他们现在更喜欢直接使用 llama.cpp。用户认为 llama.cpp 更简单、更标准,并且更接近实际的模型执行过程。
-
Prolog库实现直接的大型语言模型集成
一个名为pllm的新Prolog库已发布,它使开发人员能够将大型语言模型(LLMs)直接集成到Prolog程序中。该库提供了一个名为llm/2的谓词,该谓词与OpenAI兼容的聊天/补全端点进行交互,允许Prolog代码发送提示并接收模型响应。它支持各种提供商,包括OpenAI和本地Ollama实例,并提供配置端点、模型和API密钥的选项。
-
Ollama融资6500万美元以扩展开源AI模型平台 · 跟踪2个来源
Ollama,一个简化在个人电脑上运行AI模型的开源工具,已获得6500万美元的B轮融资。本轮融资由Theory Ventures领投,Benchmark及其他投资者参与,使Ollama的总融资金额达到8800万美元。该公司由前Docker Desktop的创建者创立,旨在使开放权重AI模型像Docker使容器一样易于访问。Ollama报告称,每月有近900万开发者使用其平台,并在财富500强公司中获得显著采用。
-
添加旧款 GPU 未能提升 Ollama/vLLM 的上下文窗口
使用 Ollama 和 vLLM 测试双 GPU 设置,结果显示在更强大的 RTX 3090 旁边添加一个旧款 Quadro P2000 并未增加上下文窗口。相反,旧款 GPU 导致 Ollama 的解码速度显著下降,并且被 vLLM 拒绝,因为它较低的计算能力与 AWQ 量化方法不兼容。这表明仅仅添加更多 GPU,尤其是旧款 GPU,并不能自动提升 LLM 的性能或上下文处理能力。
-
MiniStack 1.4.0 支持本地 Amazon Bedrock 仿真,提供真实 LLM 补全
MiniStack 发布了 1.4.0 版本,引入了 Amazon Bedrock 服务的本地仿真。此次更新允许开发者在本地机器上端到端运行 Bedrock,最初为 Anthropic、Titan 和 Llama 等各种模型系列提供确定性的模拟响应。一个关键功能是通过环境变量连接到本地 LLM 后端(如 Ollama),从而在保持 Bedrock API 格式的同时实现真实的补全。
-
Qwen3-Coder 32B 在2026年领先本地AI编码模型
Qwen3-Coder 32B 模型已成为2026年顶级的本地编码助手,其性能可与 Claude Sonnet 4 和 GPT-4o 等云端解决方案相媲美。该模型由阿里巴巴的 Qwen 系列微调,HumanEval 得分为91.4%,可在 RTX 3090 GPU 等消费级硬件上运行,约需20GB显存。对于显存较小的用户,也提供了 Qwen3-Coder 14B 和 8B 等较小版本,提供了可行的本地AI解决方案,优先考虑数据隐私并免…
-
Ollama 0.31.2 发布,为旧款 NVIDIA GPU 启用闪存注意力
Ollama 发布了 0.31.2 版本,带来多项改进和修复。主要更新包括为旧款 NVIDIA GPU(计算能力 6.x)启用闪存注意力,并允许 iGPU 将视觉模型加载到可用内存中。此次发布还解决了思维模型结构化输出的问题,增强了 GGUF 模型创建的健壮性,并默认禁用 `ollama launch` 与 Claude Code 的遥测功能。此外,还修复了加载包含非 UTF-8 字符路径的模型的问题。
-
DevOps Open Agent 通过 Qdrant 驱动的 RAG 获得记忆功能
DevOps Open Agent 已更新,增加了记忆功能,使其能够存储和检索过去的调查上下文。此功能利用了 Qdrant 的检索增强生成 (RAG) 技术,来嵌入和保存与 Kubernetes 和 AWS 相关的已完成调查。当用户发起新调查时,该代理可以访问类似的过往案例,提供关于反复出现的根本原因和成功修复的上下文信息,从而为 DevOps 团队建立机构记忆。该系统支持自托管,允许用户自带 Qdrant 实例,并可以与 OpenA…
-
使用 Ollama 和 Continue 在 Mac 上构建本地 LLM 环境
本文详细介绍了如何使用 Ollama 和 Continue VS Code 扩展在 Mac 上设置本地大型语言模型 (LLM) 环境。它为有兴趣在个人机器上直接运行 LLM 进行开发或实验的用户提供了指南。
-
Ollama 和 OpenClaw 集成,用于本地 AI Agent 工作流
本指南详细介绍了如何将 Ollama(一个运行本地 AI 模型的工具)与 OpenClaw(一个提供 Agent 工作流功能的平台)集成。该设置允许用户在更实用的 Agent 环境中测试 Mistral 或 Llama 等本地模型,从而实现工具访问、文件感知和工作流控制等功能。该过程包括安装 Ollama 和 OpenClaw,拉取本地模型,配置 OpenClaw 使用 Ollama 端点,然后使用模拟真实 Agent 任务的提示来测试集成系统。
-
OpenCode 78% 的速度劣势被其灵活性和本地模型集成所抵消
一位开发者发现,虽然开源编码代理 OpenCode 比他付费的替代品慢了 78%,但他更喜欢它,因为它具有灵活性和集成本地模型的能力。OpenCode 的模型无关设计允许它连接到众多提供商,包括通过 Ollama 本地运行的模型,这解决了开发者在付费和本地 AI 工具之间工作流程脱节的问题。该代理与语言服务器协议 (Language Server Protocol) 的集成提供了对代码编辑的实时反馈,防止模型自信地虚构不存在的函数。
-
配备128GB统一内存的MacBook Pro测试本地AI编码模型
一位用户探索了在配备128GB统一内存的MacBook Pro上本地运行各种AI编码模型。他们发现,虽然Llama 3、Code Llama、DeepSeek Coder和Phi 3等模型可以运行,但性能差异很大。Ollama和LM Studio等工具被用来管理这些本地模型,用户最终在特定配置下取得了成功。
-
Reddit用户分享在5070TI硬件上运行Stable Diffusion的项目
一位Reddit用户正在寻求使用5070TI显卡进行创意项目的建议和灵感,特别是用于Stable Diffusion的图像和视频生成。他们正在ComfyUI中尝试各种模型和工作流程,包括LTX2.3模型和LoRA,并且还使用本地AI模型通过WhisperX和Ollama进行会议摘要和行动项提取。用户渴望了解使用他们现有硬件可以实现哪些重要的应用。
-
用户因Gemini速率限制寻求本地LLM,面临显存限制
一位用户由于Gemini免费版的速率限制,正在寻求运行一个本地大型语言模型(LLM)。他们2020年的戴尔笔记本电脑,只有4GiB的显存,这给运行Ollama等模型带来了挑战。用户正在探索替代方案,并注意到模型名称“Quen”与一个贬义词过于接近,引发了对其潜在命名选择的幽默评论。
-
研究发现 LLM 代码审查偏好持续性而非正确性
一项使用本地 Qwen2.5-Coder 模型的实验表明,LLM 对代码进行重复审查,尤其是在启用采样的情况下,往往会收敛于持续性的发现而非准确的发现。当温度设置为 0 时,模型产生相同的结果,但将温度提高到 0.7 会引入显著的变异性。对这些不同发现进行多数投票,通常会选择一致但错误的错误报告,而不是频率较低但准确的报告,这凸显了在使用 LLM 生成的代码审查时可能存在的陷阱。
-
智能家居代理将 1B AI 模型视为不可信输入
一款名为 EdgeHome Harness 的新型智能家居代理展示了一种新颖的 AI 可靠性方法,它将自家的 1B 参数模型视为不可信输入。该系统由社区成员开发,并由 OpenBMB 展示,它使用了一个小的 Rust 框架来验证和执行 MiniCPM5-1B 模型生成的命令。这种设计优先考虑用于模式验证、设备解析和策略执行等关键功能的确定性代码,而 AI 模型在管道中则被置于不太关键的角色。
-
使用本地工具和 ServBay 削减 AI SaaS 开发成本
开发人员可以通过利用本地开源替代方案来显著降低 AI SaaS 原型的成本,从而替代昂贵的云服务。像 Ollama 这样的 LLM 工具和带有 pgvector 的 PostgreSQL 向量数据库可以替代产品开发早期阶段的昂贵云 API 和托管服务。虽然设置本地环境可能因端口冲突和配置复杂性等问题而耗时,但 ServBay 等平台旨在通过提供本地 AI 基础设施来简化此过程,从而减少资源开销并简化设置。