Hugging Face 推出了 @huggingface/kernels 库,该库支持直接从 Hugging Face Hub 使用 200 多个优化的 WebGPU 内核进行本地 AI 应用。这些内核涵盖了重要的机器学习操作,并作为独立的、版本化的软件包发布,具有明确的接口、正确性测试和基准测试用例。为了促进社区参与,Hugging Face 还推出了 Fleet,一个基于浏览器的基准测试工具,用于众包来自不同硬件的性能和正确性数据,以帮助改进和优化内核。 AI
影响 在 Web 浏览器中实现更高效、更易于访问的本地 AI 推理。
排序理由 在浏览器中运行 AI 模型的库和相关工具的产品发布。
在 Mastodon — mastodon.social 阅读 →
- Apache Software License 2.0
- Fleet
- Hugging Face Hub
- @huggingface/kernels
- WebGPU
- webgpu-kernels
- WebGPU Shading Language
- Hugging Face
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →