BrowserAI 通过 WebGPU 加速实现在本地运行 LLM

BrowserAI 是一个开源项目，它允许大型语言模型直接在网页浏览器中运行，并利用 WebGPU 进行加速。这种方法确保了 100% 的隐私，因为所有处理都在本地进行，消除了服务器成本并启用了离线功能。该 SDK 支持多种引擎和流行模型，并提供文本生成、语音识别、文本转语音和音频源分离等功能。 AI

影响 通过直接在用户浏览器中运行模型，实现了注重隐私且低成本的 AI 应用。

排序理由 这是一个在浏览器中运行 LLM 的新开源项目，并非来自前沿实验室的发布或重大的行业活动。

在 HN — AI infrastructure stories 阅读 →

• BrowserAI
• Demucs
• Flare
• Gemma
• Kokoro-TTS
• Llama-3.2-1b-instruct
• LLM
• MLC
• Transformers
• WebGPU
• Whisper-tiny-en

• 产品
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →