据报道，苹果公司正在开发能够实现可扩展本地人工智能模型推理的技术，这将允许用户在不需要极其高端硬件的情况下运行更大的模型。这种方法将涉及将多台机器集群化以获得必要的计算能力。这一发展被认为对喜欢在本地运行模型的用户来说令人兴奋。 AI
影响 通过降低硬件要求，可能促使本地人工智能模型得到更广泛的应用。
排序理由 关于一家公司为其产品开发新技术能力的传言。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
As someone who prefers to run my own local models, I'm excited to see rumblings about Apple working on making local inference scalable. Not everyone has 128GB+ of RAM sitting on a single machine to be able to run inference on larger models. But being able to easily cluster multip…