一位开发者正在尝试通过以太网运行Vulkan计算,他们称之为“trampoline”技术,以创建一个分布式GPU系统。初步测试表明性能损失是可以接受的,开发者计划添加多GPU支持并测试大型语言模型推理。最终目标是创建一个类似SETI@home的社区驱动平台,用于AI模型的训练和推理,以实现AI开发的民主化,尽管PyTorch移除其Vulkan后端可能会带来挑战。 AI
影响 如果能克服性能和框架问题,可能会实现更易于访问的分布式AI训练和推理。
排序理由 开发者正在尝试一种新颖的AI基础设施设置,而不是核心AI发布或重大的行业事件。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →