一台旧款 Mac Pro,最初售价近 10,000 英镑,由于新的 Linux 驱动程序能够启用其 D700 GPU,现在被重新用于本地 LLM 工作。该机器配备 64GB RAM 和 24 核,现在可以通过 llama.cpp 运行模型,在规划等任务中达到可用的速度。值得注意的是,用户发现 Qwen 3.5 9B 在规划输出方面优于 Anthropic 的 Claude Sonnet 4.6。 AI
影响 证明了通过软件更新,旧的专用硬件仍然可以用于本地 LLM 推理。
排序理由 用户通过新驱动程序将旧硬件重新用于 AI 任务。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →