WebGPU
PulseAugur coverage of WebGPU — every cluster mentioning WebGPU across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
无服务器 AI 架构完全在浏览器标签页中运行 LLM
一篇技术论文概述了一种新颖的无服务器 AI 架构，该架构完全在浏览器标签页内运行，无需后端基础设施。该方法利用编译为 WebAssembly 的 Java 进行业务逻辑处理，并利用 WebGPU 进行本地 LLM 推理，从而实现私密且免费的运行。该系统在用户硬件上处理文档解析、向量存储、相似性搜索和多代理编排，挑战了传统的以云为中心的 AI 应用模式。
-
基于浏览器的图像修复模型通过WebGPU和ONNX本地运行
一个拥有2亿参数的图像修复模型已被开发出来，可以完全在网页浏览器中运行。该模型利用WebGPU和ONNX技术，仅需本地缓存1.24GB的权重。这项创新消除了对外部服务器、专用GPU或API调用的需求，使得高级图像编辑可以直接通过浏览器界面进行访问。
-
Kuma 项目将 PyTorch 模型编译为通过 WebGPU 在浏览器中执行
一个名为 Kuma 的新项目旨在将 PyTorch 模型编译为独立的 WebGPU 可执行文件。这种方法将允许模型直接在浏览器中运行，而无需 Python 或服务器端运行时。该项目的创建者正在就架构决策征求反馈，例如嵌入后端内核以及与 ONNX Runtime 等现有解决方案相比，它是否解决了实际的部署需求。
-
230M LFM2.5 模型在浏览器中以每秒 1,400 个 token 的速度运行
一个拥有 2.3 亿参数的模型 LFM2.5，现在能够在网页浏览器中以每秒 1,400 个 token 的速度运行。这一性能是通过自定义 WebGPU 内核实现的，该内核由曾与 Fable 5 和 Opus 4.8 相关的人员开发。该模型可在 Hugging Face 上找到，并提供了一个演示空间供用户体验其浏览器内功能。
-
SDXL 图像生成通过 WebGPU 在浏览器中本地运行
已开发出一款开源浏览器扩展，可在本地使用 WebGPU 运行 SDXL 图像生成模型。该扩展允许用户直接在浏览器中安装和运行模型，无需复杂的设置、虚拟环境或外部应用程序。该模型使用 ONNX 图作为其文本编码器、UNet 和 VAE，需要支持 WebGPU 的浏览器和足够的显存，在 MacBook M4 上生成时间约为 50-60 秒。
-
Moebius 图像修复模型使用 Claude Code 移植到浏览器
Simon Willison 成功地使用 Claude Code 将 Moebius 0.2B 图像修复模型移植到了 Web 浏览器中运行。该过程涉及将模型转换为 ONNX 格式，并利用 WebGPU 在浏览器中执行。这项工作使用户无需在本地安装 PyTorch 或 CUDA 即可直接在浏览器中进行图像修复。
-
新的AI框架可实现更安全的多智能体系统和基于浏览器的潜在协作
研究人员开发了一个新的分层多智能体强化学习框架，该框架在保持效率的同时强制执行安全约束。这种方法在低层使用约束流形来确保安全，而高层策略则学习协调行为。另外，还创建了一个递归多智能体系统（RecursiveMAS）的浏览器原生实现，允许智能体在潜在空间中直接协作，而不是通过文本。该实现利用WebLLM和WebGPU，旨在使多智能体研究在消费级硬件上更易于访问和更高效。
-
Gemma 4-E2B 使用 WebGPU 内核在浏览器中以 255 tok/s 的速度运行
Gemma 4-E2B 的演示和 WebGPU 内核已发布，可在浏览器中以大约每秒 255 个 token 的速度运行。据报道，在 Fable 5 关闭之前，Fable 5 协助完成了优化。此次发布包括在 Hugging Face 上提供的演示和内核，模型本身也已链接。
-
基于浏览器的AI在物理沙盒中控制虚拟手
一个名为Semantic Hand的新AI沙盒允许用户使用自然语言提示在浏览器环境中控制虚拟手。该系统利用Nemotron 3 Nano 4B或Qwen 3.5-4B等本地AI模型，通过Transformers.js和WebGPU运行，来解释用户命令并将其转化为虚拟手的物理动作。遇到的挑战包括优化系统提示以防止幻觉，并确保AI能够正确考虑物体形状和物理特性，而不仅仅是基于点的交互。
-
Chrome 扩展支持本地 Stable Diffusion 1.5 图像生成
一款新的 Chrome 扩展允许用户通过 WebGPU 在浏览器中本地运行 Stable Diffusion 1.5。该工具需要 Chrome 113+ 和大约 4-6 GB 的内存，模型初始下载量约为 2.1 GB。该扩展提供了免费、私密且离线的图像生成体验，尽管目前限制包括 512x512 的输出和偶尔出现的瑕疵，但计划解决这些问题并添加 LoRA 和 ControlNet 等功能支持。
-
基于浏览器的实时变声器作为MVP发布
一位开发者创建了一个完全在网页浏览器中运行的实时变声器。该工具利用WebAssembly、ONNX Runtime和WebGPU实现其功能。创建者已将其发布为最小可行产品，并正在寻求社区反馈以供未来开发。
-
Chrome 提议为 Web 应用提供设备端 Embedding API
Google Chrome 正在提议一项新的 Embedding API，该 API 将允许 Web 开发人员直接在用户设备上为内容生成向量嵌入。该 API 旨在利用设备端 AI 基础设施，在没有云服务相关的延迟、成本或隐私顾虑的情况下，实现语义搜索和检索增强生成 (RAG) 等功能。该提议旨在解决客户端 DIY 方法（可能导致显著的存储膨胀）与云 API（引入网络延迟和数据隐私风险）之间的权衡。
-
Ollama v0.30.0、Qwen3.5 35B 和 WebGPU 上的 1 位 AI
Ollama 的 v0.30.0 预发布版将改进 llama.cpp 的互操作性。此外，新的 Qwen3.5 35B 模型已提供 GGUF 和 GPTQ 格式，并针对消费级 GPU 上的本地推理进行了优化。另外，PrismML 发布了 Bonsai Image 4B，这是一个 1 位文本到图像的扩散模型，可以直接在 WebGPU 的浏览器中运行，显著降低了计算需求。
-
PrismML 发布紧凑型 1 位/三进制图像扩散模型
PrismML 发布了新的文本到图像扩散转换器模型 Binary and Ternary Bonsai Image 4B。这些模型比以前的版本显著更小，大小约为 3GB，并且可以使用 WebGPU 在本地 Web 浏览器中运行。这些模型是在 Apache-2.0 许可下发布的。
-
wllama 通过 WebAssembly 和 WebGPU 将 GGUF LLM 带入浏览器
一个名为 wllama 的新工具使用户能够直接在网页浏览器中运行 GGUF 大型语言模型。通过利用 WebAssembly 和 WebGPU，wllama 绕过了 4GB 内存限制等典型浏览器限制，并提供了比现有基于 JavaScript 的解决方案更快的性能。该项目还集成了腾讯的 HY-MT 模型进行翻译。
-
WebLLM 通过 WebGPU 将 AI 模型引入浏览器
WebLLM 是一个新项目，它允许大型语言模型直接在 Web 浏览器中运行，并使用 WebGPU 进行硬件加速。这种客户端执行通过将所有 AI 计算保留在用户设备上，增强了用户隐私并降低了服务器成本。开发人员可以利用熟悉的 OpenAI API 调用以及 Llama 3 和 Phi 3 等各种开源模型，并支持流式传输和 JSON 模式等功能。
-
浏览器原生GPU架构实现MRI数字孪生
研究人员开发了一种新的浏览器原生GPU架构，用于创建交互式MRI数字孪生。这种去中心化方法绕过了传统的服务器端渲染，直接在低成本边缘GPU上执行复杂的3D模拟。该系统实现了快速渲染时间和稳定的交互性，即使在资源受限的环境中也能访问高保真解剖模型，而无需依赖深度学习。
-
ProxyFace为AI聊天添加本地化、情感化头像
ProxyFace是一个开源项目，为AI交互添加本地化、富有表现力的头像。它利用一个小型、设备上的情感模型和眼动追踪，使头像能够对AI输出和用户的注视做出反应。该项目使用React和Electron构建，强调隐私保护，零遥测，并允许自定义像素艺术角色。
-
研究人员使用局部混合形状创建高保真移动头像
研究人员开发了一种在新方法，用于创建可在移动设备上运行的高保真人类头像。该方法利用特定身体部位内的局部线性混合形状来捕捉复杂的外观变化，与之前使用全局特征的方法相比，提高了细节。该系统专为效率而设计，可剪枝不必要的混合形状，并在移动硬件上实现高分辨率的实时渲染。
-
使用 LFM 2 和 Transformers.js，通过 WebGPU 在本地运行 LLM
Thomas Bley 发布了新的幻灯片，详细介绍了如何使用 LFM 2 在本地运行大型语言模型 (LLM)。该演示文稿还涵盖了将 Transformers.js 与 WebGPU 结合用于隐私过滤器、函数调用和嵌入，所有这些都在用户的浏览器中进行处理。