一位Reddit r/LocalLLaMA板块的用户正在咨询,在2026年购买一台二手的NVIDIA DGX-1服务器用于本地大型语言模型(LLM)推理是否可行。提到的具体配置包括8个V100 32GB GPU,总计256GB显存,以及双路Xeon E5-2698 v4处理器和512GB内存。用户正在寻求关于模型兼容性和吞吐量的实际经验,并计划尝试租用类似硬件。此外,他们还对DGX-1是否适合训练计算机视觉模型感到好奇。 AI
影响 潜在用户正在评估旧的高端硬件以实现经济高效的本地LLM推理。
排序理由 用户咨询用于AI任务的硬件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →