Open-WebUI
PulseAugur coverage of Open-WebUI — every cluster mentioning Open-WebUI across labs, papers, and developer communities, ranked by signal.
- instance of Open WebUI v0.9.6 90%
- used by Docker 70%
- uses Docker 70%
- competes with AnythingLLM 70%
- uses qdrant 70%
- uses deepseek-r1:14b 70%
- used by deepseek-r1:14b 70%
- used by Linux 70%
- used by SillyTavern 70%
- used by MacBook Pro M1 Pro 70%
- uses DeepSeek-v4.1-Flash-1017 70%
- used by DeepSeek-v4.1-Flash-1017 70%
- 2026-10-16 product_launch Open WebUI released version 0.12.3, introducing end-to-end encrypted chats. 来源
- 2026-10-16 product_launch Open-WebUI released version 0.12.3 with new end-to-end encrypted chat features. 来源
- 2026-10-11 product_launch Open-WebUI released version 0.12.0, introducing a new Realtime voice call mode. 来源
- 2026-10-10 product_launch Open-WebUI released version 0.12.0 with new features including real-time voice calls. 来源
- 2026-10-01 product_launch Open WebUI released version 0.9.6, introducing enhanced admin configuration options for LLM connections and model management. 来源
- 2026-09-10 product_launch Open WebUI released version 0.9.6, enhancing its chat interface for large language models with new context options and agentic features. 来源
- 2026-08-31 product_launch Open-WebUI v0.9.6 has been released, with instructions for setup and installation using Docker. 来源
- 2026-08-10 product_launch Open WebUI has launched a new feature called Pipelines, enhancing its programmability. 来源
- 2026-05-21 controversy A critical vulnerability in Open WebUI was publicly disclosed after the reporter's initial submission was allegedly ignored. 来源
- 2026-05-21 controversy A critical vulnerability was disclosed after the researcher's report was allegedly ignored. 来源
16 天有情绪数据
Increased adoption of Open WebUI for private RAG implementations
The recent focus on open-source tools for local RAG, including Open WebUI, suggests a growing trend towards private document chat solutions. Open WebUI's user-friendly, ChatGPT-like interface combined with its RAG capabilities makes it a strong candidate for wider adoption by individuals and teams seeking to process sensitive documents locally.
Open WebUI RCE vulnerability may impact self-hosted AI adoption
A critical RCE vulnerability in Open WebUI 0.7.2, discovered and publicly disclosed after initial reports were allegedly ignored, poses a significant risk. This could deter users and organizations from adopting self-hosted AI solutions that rely on Open WebUI, especially if patches are not rapidly deployed and communicated.
Open WebUI to release security patch for RCE vulnerability within 7 days
Given the critical nature of the RCE vulnerability in Open WebUI 0.7.2, it is highly probable that the developers will prioritize and release a security patch within the next 7 days to mitigate the risk to users and restore confidence in the platform.
-
使用Ollama在经济型硬件上离线运行功能强大的LLM
一份指南详细介绍了如何在经济型机器上离线运行一个功能强大的大型语言模型(LLM),强调了隐私和成本节约,优于基于云的API。该设置利用Ollama进行模型服务,Q4_K_M量化以在32GB RAM机器上实现高效运行,并使用Open WebUI作为聊天界面。虽然本地模型在摘要和起草等任务上表现出色,但云服务在复杂推理和长上下文分析方面仍然更胜一筹,建议采用混合方法以获得最佳性能和成本效益。
-
本地 RAG 系统使用 AMD 和 NVIDIA 为实验室笔记提供搜索功能
一位开发者创建了一个本地检索增强生成(RAG)系统,旨在使实验室笔记和幻灯片可搜索。该系统结合使用了 AMD 和 NVIDIA 硬件,其中 Gemma 4.31B 将幻灯片详细信息渲染成可搜索文本,Qwen3-Embedding-4B 对文本和幻灯片描述进行索引。Qdrant 处理问题以进行相关段落排名,DeepSeek-V4.1-Flash-1017 使用检索到的信息生成答案。
-
用户记录通过本地文本、图像和音频生成AI工具的历程
一位用户详细介绍了他们使用本地AI模型的过程,从Ollama和LM Studio开始,最终因其可定制性而选择了Oobabooga Text Generation-Webui。他们描述了升级硬件以适应Llama 3.1 8B等更大模型,尝试了KoboldCPP和Llamafile等工具,并最终因速度而成功使用了Llama.CPP的WebUI。在图像生成方面,他们从stable-diffusion-webui-Forge转向了reForg…
-
Open WebUI:Ollama 和 OpenAI API 的自托管界面
Open WebUI 是一个专为 Ollama 和 OpenAI 兼容 API 设计的自托管 Web 界面。它提供了检索增强生成 (RAG)、多用户认证等功能,并可通过 Docker 进行部署。本指南提供了全面的概述、快速入门指南以及该工具的替代方案。
-
DeepSeek-v4.1-Flash-1017 PDF 处理能力受限
作者评估了 DeepSeek-v4.1-Flash-1017 模型处理一份60页PDF文档信息的能力。评估重点关注模型从PDF中的可选文本和嵌入式图形中提取和利用数据的能力,使用了自定义生成的虚构报告 ASTER-47。虽然模型成功回答了基于文本和表格的问题,但它在处理仅包含在栅格图像中的信息时遇到了困难,凸显了当前PDF到文本处理工作流程的局限性。
-
DeepSeek-v4.1-Flash-1017 部署在 NVIDIA DGX Spark 系统上
一份技术指南详细介绍了 DeepSeek-v4.1-Flash-1017 大型语言模型在两台 NVIDIA DGX Spark 系统上的部署。设置包括使用 2.9-bpw EXL3 检查点和 TensorFold 推理配方配置模型,并利用两个 RoCE 接口进行通信。该部署与 Open WebUI 集成,以便在研究实验室网络内进行 API 访问,需要仔细的硬件和网络准备、故障排除和验证。
-
通过 RAG 实现将本地 LLM 的准确性从 1/10 提升到 9/10
作者详细介绍了他们如何通过实现检索增强生成(RAG)来提高本地托管的 LLM OzAI(运行在 MacBook Pro M1 Pro 上)的准确性。最初,通过 Ollama 和 LiteLLM 提供的 Qwen3 8B 模型 LLM 会给出错误且自信的虚假答案。通过集成 RAG(该技术涉及在生成响应前搜索相关文档),LLM 在一套 10 个评估问题上的表现从 10 个中答对 1 个提高到答对 9 个。作者强调了在 RAG 块中包含源文…
-
Open WebUI 0.13.0 使 LLM 能够控制虚拟桌面,在 MS Paint 中绘图
新的 Open WebUI 0.13.0 集成了 Open Terminal 0.17.2,现在允许语言模型控制虚拟桌面环境。一位用户通过让 QFN 3.8 NVFP4 模型在虚拟机内的 Microsoft Paint 中徒手画一条狗来演示了这一能力。此功能支持对桌面进行编程控制,支持 Linux 和 Windows 环境,并提供基于浏览器的交互式控制。
-
自托管 LLM 监控系统跟踪关键性能指标
在 MacBook Pro M1 Pro 上构建的自托管 LLM 平台可能会遇到超出标准 HTTP 200 响应的问题,例如提示被静默截断或答案为空。为解决此问题,作者开发了一个使用 Grafana 和 PostgreSQL 的监控系统,直接查询 LiteLLM 请求日志。这种方法可以跟踪关键指标,如首次令牌时间(time to first token)和解码速度(decode speed),这对于理解 LLM 性能至关重要,超越了简…
-
Qwen3.6 LLM 通过 oMLX 在 MacBook Pro 上本地运行,速度很快
一位用户使用 oMLX 框架和 openCode 成功在 MacBook Pro 上本地运行了 Qwen3.6-35B-A3B 大型语言模型。该设置能够实现快速的 token 输出,估计每秒约 100 个 token,从而无需互联网连接即可进行聊天和编码任务。该模型是一种专家混合(Mixture of Experts)类型,每个 token 使用约 30 亿个活跃参数,这有助于其速度和 4 位量化后的可管理大小,使其适合 Apple …
-
TinyWebUI发布,成为轻量级、易于安装的Open WebUI替代品
TinyWebUI是一款新的、轻量级的Open WebUI替代品,通过简单的`npx`命令即可轻松安装。它内置了本地网页搜索、记忆支持和多用户隔离等功能,并能与任何MCP服务器集成。该项目兼容1.7B LFM3等小型本地模型。
-
DevOps工程师在笔记本上搭建自托管ChatGPT平台
一位DevOps工程师开发了一个名为OzAI的自托管AI平台,旨在笔记本电脑上运行开源大语言模型。该平台使用Ollama执行模型,LiteLLM作为API网关,提供虚拟密钥和速率限制等功能,并使用Open WebUI提供类似ChatGPT的界面。对于近期事件查询,它集成了SearXNG,并使用Grafana进行监控。初始设置利用了一台配备16GB内存的MacBook Pro M1 Pro,并计划在后续系列文章中扩展到Amazon EK…
-
Frontier UI 为 Open WebUI 中的本地 LLM 添加了视觉、交互式响应
一位开发者创建了 Frontier UI,这是一个开源工具,旨在通过在 Open WebUI 平台内提供交互式视觉响应来增强本地大型语言模型(LLM)。该工具将文本输出转换为动态元素,如交互式地图、照片库、实时数据图表和可导出文档。Frontier UI 旨在使 LLM 的响应更加有用和吸引人,特别是对于涉及规划、数据比较和信息可视化的任务,而无需额外的推理服务。
-
新项目简化了在Linux上运行本地AI模型
一个名为 braindead-local-intelligence 的新项目旨在简化在Linux系统上本地运行AI模型的过程。该项目利用Podman容器来设置一个与OpenAI API兼容的本地LLM服务器、一个图像生成服务器、一个网络搜索工具(SearXNG)和一个Web界面(Open WebUI)。它通过一次只加载一个模型并在不活动一段时间后卸载它来有效管理GPU内存。该项目支持AMD显卡,对于较大的模型需要至少12GB的VRAM…
-
本地 LLM 界面泄露敏感数据,模型本身不会
在本地运行大型语言模型可能存在安全风险,风险并非来自模型本身,而是来自用于与之交互的聊天界面。像 Open WebUI 这样的界面,如果未正确配置安全标头,可能会无意中将敏感信息(如 AWS 密钥)发送给外部收集器。当界面渲染模型输出中的图像或运行嵌入式 HTML 时,浏览器会获取此内容,从而在 URL 中暴露数据。像 DeepSeek 这样的模型只是参数的集合,无法直接泄露数据,但与之交互的前端应用程序可以,特别是如果它们缺乏强大的…
-
用于减少 AI 噪音的 Linux 内核功能被撤销;家庭 AI 实验室 Docker 指南发布
旨在减少 Linux 内核 7.4 中 AI 和 LLM 生成噪音的新功能,因 VFIO 子系统中的一个问题而被撤销。另外,一份指南重点介绍了设置家庭 AI 实验室所需的五个重要 Docker 容器,包括 Ollama、Open WebUI、Qdrant、n8n 和 Portainer CE,并详细说明了它们的功能和常见陷阱。
-
开发者推出带每周自动检查的自托管AI项目列表
一位开发者创建了一个名为“awesome-selfhosted-ai”的自托管AI项目列表,该列表会每周自动检查其条目的状态。该列表目前包含16个类别的303个开源项目,包括LLM运行时、聊天界面和代理。项目通过GitHub API验证其活动情况,任何被归档、删除或一年以上不活跃的项目都会被移至单独的“UNMAINTAINED.md”文件中,以确保列表的更新性。
-
npm audit 遗漏了 MCP Inspector 的严重漏洞
MCP Inspector 工具中已发现严重的は安全漏洞,具体影响 1.x 系列中 1.0.2 及更早版本,以及 2.x 系列中 2.12.0 及更早版本。这些漏洞的 CVSS 评分为 9.6,可能允许恶意的 MCP 服务器在用户计算机上执行命令。值得注意的是,这些安全公告尚未在 GitHub 或 OSV.dev 等主要全球漏洞数据库中注册,这意味着像 npm audit 这样的标准工具可能不会标记使用受影响版本的项目。建议用户手动检…
-
Devto 的 Mastodon 帖子涵盖 AI 工具、开发和自主系统
此集群汇总了来自 fosstodon.org 用户 'devto' 的几篇 Mastodon 帖子,讨论了软件开发和 AI 工具的各个方面。帖子涉及构建项目的个人经历、ChatGPT 和 GitHub Copilot 等 AI 助手的用法,以及对 Open WebUI 等工具的技术评论。其中一篇帖子还引用了送货无人机场景,反思了自主系统面临的挑战。
-
家庭AI实验室必备的5个Docker容器
本文概述了搭建家庭AI实验室所需的五个必备Docker容器。文章详细介绍了每个容器的功能,包括用于运行模型的Ollama、用于界面的Open WebUI、用于向量搜索的Qdrant、用于工作流自动化的n8n以及用于容器管理的Portainer CE。该指南还强调了使用这些工具时应避免的常见初始错误。