两家初创公司Far Labs和Evolving Edge正在开发平台,用于租用闲置的游戏PC以进行AI推理任务,目标是创建“AI的Airbnb”。这些平台将利用RTX 4090等消费级硬件,将模型拆分成更小的部分,以便在多台机器上进行处理。虽然它们承诺通过沙盒技术提供具有竞争力的延迟和安全性,但用户盈利能力以及这种分布式模型大规模运行的可行性仍未得到证实,尤其考虑到电力成本。 AI
影响 这些平台可以通过利用分布式的消费级硬件来普及AI推理,从而可能降低成本并提高小型AI模型的可用性。
排序理由 该集群描述了利用现有消费级硬件进行AI任务的新平台,这是一种产品/服务创新,而不是核心AI模型发布或研究突破。
- AWS
- Evolving Edge
- Far Labs
- IEEE Spectrum
- Ilman Shazhaev
- John Federico
- Ray
- RTX 4090
- Salad
- Airbnb
- Ethereum
- Mastodon
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →