搭载M5 Ultra SoC的Apple Mac Studio正与Nvidia DGX Spark进行本地AI性能基准测试。Mac Studio配备了36核CPU和80核GPU,并集成神经网络加速器,拥有高达512GB的统一内存,在代理AI任务中表现出色。在使用llama.cpp通过AgentPerf-Local基准测试Qwen 3.8 27B模型时,Mac Studio完成任务的时间不到DGX Spark类系统的二分之一,且能耗降低了16%。 AI
影响 展示了高端消费级硬件在本地AI推理方面的竞争力,可能影响企业采用。
排序理由 文章将消费级硬件上的本地AI性能与企业级硬件进行了基准测试。[lever_c_demoted from research: ic=1 ai=0.7]
- AgentPerf-Local
- Apple Inc.
- Blackwell
- DGX Spark
- llama.cpp
- M5 Ultra
- Mac Studio
- Mlx
- Nvidia
- NVIDIA GB10 Grace Blackwell Superchip
- Qwen 3.8 27B
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →