实体
MLC
MLC
PulseAugur coverage of MLC — every cluster mentioning MLC across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
最近 · 第 1/1 页 · 共 2 条
-
BrowserAI 通过 WebGPU 加速实现在本地运行 LLM
BrowserAI 是一个开源项目，它允许大型语言模型直接在网页浏览器中运行，并利用 WebGPU 进行加速。这种方法确保了 100% 的隐私，因为所有处理都在本地进行，消除了服务器成本并启用了离线功能。该 SDK 支持多种引擎和流行模型，并提供文本生成、语音识别、文本转语音和音频源分离等功能。
-
MLC 支持在浏览器、iPhone 和 AMD 显卡上运行大型模型
由卡内基梅隆大学（CMU）的 Tianqi Chen 领导的机器学习编译（MLC）小组正在开发 MLC Chat 和 Web LLM 等框架，以支持在包括 iPhone 和网页浏览器在内的消费级硬件上运行大型语言模型。该计划旨在通过允许模型在配备 AMD 显卡甚至仅 CPU 的设备上本地运行，来缓解当前的 GPU 短缺问题。Hugging Face 的 text-to-webapp 生成器和 Gradio 等项目也在为开发者和最终用户…