一个名为 Kuma 的新项目旨在将 PyTorch 模型编译为独立的 WebGPU 可执行文件。这种方法将允许模型直接在浏览器中运行，而无需 Python 或服务器端运行时。该项目的创建者正在就架构决策征求反馈，例如嵌入后端内核以及与 ONNX Runtime 等现有解决方案相比，它是否解决了实际的部署需求。 AI
影响 支持在 Web 浏览器中直接在客户端执行机器学习模型，可能简化某些应用程序的部署。
排序理由 该条目描述了一个用于编译和部署机器学习模型的新项目，属于人工智能工具类别。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>I've been experimenting with a compiler/runtime project that I'm not entirely sure is a good idea, so I'd love some feedback from people who've worked on deployment systems.</p> <p>The idea is to compile an exported PyTorch model into a self-cont…