英伟达发布了一款名为Personal AI Router (PAIR) 的新开源软件工具,允许用户将家庭网络上的闲置电脑连接起来,创建一个分布式AI处理系统。该工具旨在利用拥有英伟达GeForce GPU或Apple M系列芯片的设备的未充分利用的计算能力,用于本地AI推理任务,例如运行大型语言模型。PAIR通过实现并行处理和适应加入或离开网络的设备,来提高代理工作流的效率,同时通过六位数字代码和mTLS加密确保安全性。 AI
影响 使拥有现有硬件的个人能够进行更易于访问且更具成本效益的本地AI推理。
排序理由 英伟达发布了一款面向消费者的软件工具,以利用现有硬件进行AI任务。
- Apple’s M4 chips
- DGX Spark systems
- Hermes Agent
- LM Studio
- Nvidia
- Nvidia GeForce GPUs
- Ollama
- OpenClaw
- Perplexity
- Personal AI Router (PAIR)
- Seth Schneider
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →