DGX-1

NVIDIA DGX-1 用于本地LLM推理：2026年的可行性问题

一位Reddit r/LocalLLaMA板块的用户正在咨询，在2026年购买一台二手的NVIDIA DGX-1服务器用于本地大型语言模型（LLM）推理是否可行。提到的具体配置包括8个V100 32GB GPU，总计256GB显存，以及双路Xeon E5-2698 v4处理器和512GB内存。用户正在寻求关于模型兼容性和吞吐量的实际经验，并计划尝试租用类似硬件。此外，他们还对DGX-1是否适合训练计算机视觉模型感到好奇。