ONNX Runtime Web
PulseAugur coverage of ONNX Runtime Web — every cluster mentioning ONNX Runtime Web across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
开发者创建本地Chrome扩展程序以过滤YouTube信息流
一位开发者创建了一个Chrome扩展程序，该程序利用一个在浏览器中本地运行的小型模型直接过滤YouTube内容。该扩展程序无需服务器或API密钥，允许用户隐藏特定视频类别或遵循自定义规则，还包括一个检查文本是否存在提示注入的功能。该模型opendecider-nano可以通过WebGPU或WASM运行，性能基准测试表明标题分析的处理时间效率很高。
-
指南介绍如何在 Web 浏览器中直接运行 AI 模型
一份实用的指南已发布，详细介绍了如何使用 Transformers.js 库直接在 Web 浏览器中运行 AI 模型。该指南探讨了 Transformers.js 的功能，它允许执行复杂的 AI 任务，而无需服务器端处理。它强调了使用 ONNX Runtime Web、TensorFlow.js 和 WebAssembly 等各种运行时和技术来实现这一点。
-
AI 模型现在使用 ONNX Runtime Web 直接在浏览器中运行
ONNX Runtime Web 使得背景移除和特征提取等复杂的 AI 任务可以直接在网页浏览器中执行。这种客户端处理消除了对强大后端服务器的需求，降低了与将敏感数据发送到云端相关的延迟、带宽消耗和隐私担忧。该架构利用 ONNX 实现模型互操作性，利用 ONNX Runtime Web 作为编译为 WebAssembly 的执行引擎，并利用 WebGL 和 WebGPU 等浏览器硬件加速 API 进行高效计算。
-
WebGPU 解锁浏览器 GPU 算力，实现大规模并行计算
WebGPU 是一项新的 Web API，它允许开发者直接从浏览器利用图形处理单元（GPU）的大规模并行处理能力。与仅限于渲染且需要复杂变通方法才能进行通用计算的前身 WebGL 不同，WebGPU 能够直接在数千个线程上执行任意数学代码。这一转变预计将显著提高 Web 应用程序中 AI 推理、媒体处理和复杂模拟等任务的性能，弥合传统 CPU 密集型 Web 开发与现代 GPU 硬件能力之间的差距。
-
像 Stable Diffusion 这样的 AI 图像模型现在通过 TypeScript 在浏览器中运行
ONNX Runtime Web 和 WebGPU 的最新进展使得像 Stable Diffusion 和 Flux 这样的复杂 AI 模型能够直接在浏览器中使用 TypeScript 运行。这一转变将 AI 模型执行从专用的后端基础设施转移到客户端或边缘设备，显著改变了全栈工程实践。文章详细介绍了潜在扩散模型（LDMs）和校正流匹配（Rectified Flow Matching）的机制，解释了它们如何在压缩的潜在空间中运行，并利用…
-
三元量化将超分辨率Transformer压缩至668KB，可在浏览器中使用
研究人员已成功将BitNet风格的三元量化应用于超分辨率Transformer模型，显著减小了模型尺寸。该量化模型使用-1、0或+1的权重，经过gzip压缩后大小为668KB，可以直接在网页浏览器中运行。该方法在PSNR方面比双三次插值有显著提升，但仅限于非生成式、2倍的放大任务。
-
Moebius 图像修复模型使用 Claude Code 移植到浏览器
Simon Willison 成功地使用 Claude Code 将 Moebius 0.2B 图像修复模型移植到了 Web 浏览器中运行。该过程涉及将模型转换为 ONNX 格式，并利用 WebGPU 在浏览器中执行。这项工作使用户无需在本地安装 PyTorch 或 CUDA 即可直接在浏览器中进行图像修复。
-
ProxyFace为AI聊天添加本地化、情感化头像
ProxyFace是一个开源项目，为AI交互添加本地化、富有表现力的头像。它利用一个小型、设备上的情感模型和眼动追踪，使头像能够对AI输出和用户的注视做出反应。该项目使用React和Electron构建，强调隐私保护，零遥测，并允许自定义像素艺术角色。