Google 推出了 LiteRT.js,这是其设备端推理库(以前称为 TensorFlow Lite)的 JavaScript 绑定。这个新工具允许 .tflite 模型直接在网页浏览器中运行,利用 WebGPU、WebNN 和 WebAssembly 后端。Google 声称 LiteRT.js 提供了显著的性能提升,在计算机视觉和音频任务方面比其他 Web 运行时快三倍,并且在使用 GPU 或 NPU 加速时,为要求苛刻的实时应用程序提供 5-60 倍的加速。 AI
影响 使更复杂的 AI 模型能够直接在网页浏览器中运行,增强了隐私性并降低了 Web 应用程序的延迟。
排序理由 这是一个软件工具发布,而不是前沿模型或重大行业事件。
- LiteRT.js
- Apple Silicon
- LiteRT
- ML Drift
- PyTorch
- TensorFlow.js
- TensorFlow Lite
- WebAssembly
- WebGPU
- WebNN
- XNNPACK
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →